golang使用json格式实现增删查改

需求和思路

在一般的小项目或者一个小软件,例如客户端之类的小程序中,可能会需要数据的持久化.但是使用一般的数据库(Mysql)之类的不合适.使用sqlite3这种嵌入式的是个较好的方法,但是Go语言中sqlite3的库是C语言的,Cgo不支持跨平台编译.正是由于这种需求,才想到使用json格式将数据直接保存在文件中.
具体的思路是怎么样呢? 在Go语言中如果要将数据转化成json格式的话,有两种格式 struct 和 map. 如果同时需要增删查改功能的话,将map作为中间格式是比较合适的.接下来我们就来实现它.

查询操作

这种操作的实现比较简单,直接将文件中的数据读取出来,使用json库反序列化就可以了. 代码如下 :

type Product struct {
    Name string `json:"name"`
    Num  int    `json:"num"`
}

func findAll() {
    ps := make([]Product, 0)

    data, err := ioutil.ReadFile("./index.json")
    if err != nil {
        log.Fatal(err)
    }

    // 这里参数要指定为变量的地址
    err = json.Unmarshal(data, &ps)
    if err != nil {
        log.Fatal(err)
    }

    fmt.Println(ps)
}

添加操作

添加的实现实在查询的基础上的,我们需要先查询文件中的数据库,并转化为map格式,再将struct也转化为map格式(这里要使用反射),合并map,json序列化,最后保存在文件中.代码如下:

func create() {
    fields := make([]map[string]interface{}, 0)
    
    p1 := &Product{
        Name: "Blog",
        Num:  2,
    }
    
    _, _ = json.Marshal(p1)
    // 读取文件中的数据,保存为map格式
    data, _ := ioutil.ReadFile("./index.json")
    err := json.Unmarshal(data, &fields)
    if err != nil {
        log.Fatal(err)
    }
    
    // 使用反射将struct转化为map
    tp := reflect.TypeOf(p1).Elem()
    vp := reflect.ValueOf(p1).Elem()
    field := make(map[string]interface{}, 0)
    for i := 0; i < tp.NumField(); i++ {
        field1 := tp.Field(i)
        field2 := vp.Field(i)
        key := field1.Tag.Get("json")
        field[key] = field2.Interface()
    }
    // 合并map
    fields = append(fields, field)
    
    // 写入文件
    out, _ := json.Marshal(fields)
    _ = ioutil.WriteFile("./index.json", out, 0755)
}

条件查询

思路: 将struct转化为map,根据输入的条件查询.查询的结果转化为struct.代码如下:

func FindOne() {
    product := &Product{}

    p1 := &Product{
        Name: "John",
        Num:  23,
    }

    // 使用反射将struct转化为map
    tp := reflect.TypeOf(p1).Elem()
    vp := reflect.ValueOf(p1).Elem()
    field := make(map[string]interface{}, 0)
    for i := 0; i < tp.NumField(); i++ {
        field1 := tp.Field(i)
        field2 := vp.Field(i)
        key := field1.Tag.Get("json")
        switch field2.Kind() {
        case reflect.Int:
            field[key] = float64(field2.Interface().(int))
        case reflect.Int8:
            field[key] = float64(field2.Interface().(int8))
        case reflect.Int16:
            field[key] = float64(field2.Interface().(int16))
        case reflect.Int32:
            field[key] = float64(field2.Interface().(int32))
        case reflect.Int64:
            field[key] = float64(field2.Interface().(int64))
        case reflect.Uint:
            field[key] = float64(field2.Interface().(uint))
        case reflect.Uint8:
            field[key] = float64(field2.Interface().(uint8))
        case reflect.Uint16:
            field[key] = float64(field2.Interface().(uint16))
        case reflect.Uint32:
            field[key] = float64(field2.Interface().(uint32))
        case reflect.Uint64:
            field[key] = float64(field2.Interface().(uint64))
        case reflect.Float32:
            field[key] = float64(field2.Interface().(float32))
        case reflect.Float64:
            field[key] = field2.Interface()
        default:
            field[key] = field2.Interface()
        }
    }

    _, _ = json.Marshal(p1)
    // 读取文件中的数据,保存为map格式
    // 数据转化为map时,数值类型的统一变成float64
    data, _ := ioutil.ReadFile("./index.json")
    fields := make([]map[string]interface{}, 0)
    err := json.Unmarshal(data, &fields)
    if err != nil {
        log.Fatal(err)
    }

    // 查询的条件
    columns := []string{"name", "num"}
    length := len(columns)
    for _, item := range fields {
        for i := 0; i < length; i++ {
            // 这里的比较需要改进
            if item[columns[i]] != field[columns[i]] {
                break
            }
            if i == length-1 {
                field = item
                goto OVER
            }
        }
    }
OVER:
    fmt.Println(field)

    out, _ := json.Marshal(field)
    _ = json.Unmarshal(out, &product)

    fmt.Println(product)
}

修改操作

修改操作在查询操作的基础上实现, 修改操作需要有一个id值,能确定元素的唯一性.代码如下:

func Update() {
    p1 := &Product{
        Id:   "2bbec87025968879c3c9682abe3bf730",
        Name: "John_e",
        Num:  100,
    }

    // 使用反射将struct转化为map
    tp := reflect.TypeOf(p1).Elem()
    vp := reflect.ValueOf(p1).Elem()
    field := make(map[string]interface{}, 0)
    for i := 0; i < tp.NumField(); i++ {
        field1 := tp.Field(i)
        field2 := vp.Field(i)
        key := field1.Tag.Get("json")
        switch field2.Kind() {
        case reflect.Int:
            field[key] = float64(field2.Interface().(int))
        case reflect.Int8:
            field[key] = float64(field2.Interface().(int8))
        case reflect.Int16:
            field[key] = float64(field2.Interface().(int16))
        case reflect.Int32:
            field[key] = float64(field2.Interface().(int32))
        case reflect.Int64:
            field[key] = float64(field2.Interface().(int64))
        case reflect.Uint:
            field[key] = float64(field2.Interface().(uint))
        case reflect.Uint8:
            field[key] = float64(field2.Interface().(uint8))
        case reflect.Uint16:
            field[key] = float64(field2.Interface().(uint16))
        case reflect.Uint32:
            field[key] = float64(field2.Interface().(uint32))
        case reflect.Uint64:
            field[key] = float64(field2.Interface().(uint64))
        case reflect.Float32:
            field[key] = float64(field2.Interface().(float32))
        case reflect.Float64:
            field[key] = field2.Interface()
        default:
            field[key] = field2.Interface()
        }
    }

    _, _ = json.Marshal(p1)
    // 读取文件中的数据,保存为map格式
    // 数据转化为map时,数值类型的统一变成float64
    data, _ := ioutil.ReadFile("./index.json")
    fields := make([]map[string]interface{}, 0)
    err := json.Unmarshal(data, &fields)
    if err != nil {
        log.Fatal(err)
    }

    // 修改的条件
    columns := []string{"name", "num"}
    for _, v := range fields {
        if v["_id"] == field["_id"] {
            for _, col := range columns {
                v[col] = field[col]
            }
            field = v
        }
    }

    out, _ := json.MarshalIndent(fields, "", "  ")
    _ = ioutil.WriteFile("./index.json", out, 0755)
}

删除操作

最后就是删除操作了,这个比较思路简单,输入唯一的id值,删除对应的字段,再保存到文件就可以了.代码如下:

func Delete() {
    p1 := &Product{
        Id:   "db43fa2d4f69cddce7494941cb36032b",
        Name: "John_e",
        Num:  100,
    }

    _, _ = json.Marshal(p1)
    // 读取文件中的数据,保存为map格式
    // 数据转化为map时,数值类型的统一变成float64
    data, _ := ioutil.ReadFile("./index.json")
    fields := make([]map[string]interface{}, 0)
    err := json.Unmarshal(data, &fields)
    if err != nil {
        log.Fatal(err)
    }

    length := len(fields)
    for index, field := range fields {
        if field["_id"] == p1.Id {
            if index == length - 1 {
                fields = fields[0:index]
            } else {
                fields = append(fields[0:index], fields[index+1:]...)
            }
        }
    }

    out, _ := json.MarshalIndent(fields, "", "  ")
    _ = ioutil.WriteFile("./index.json", out, 0755)
}

完整版

最后在附上完整版代码：

package store

import (
    "bytes"
    "crypto/md5"
    "encoding/json"
    "errors"
    "fmt"
    "io/ioutil"
    "os"
    "path/filepath"
    "reflect"
    "strings"
    "time"
)

type Store struct {
    Dir string
}

func NewStore(dir string) (*Store, error) {

    // .开头的为相对路径,补全为全路径
    if strings.HasPrefix(dir, ".") {
        pwd, _ := os.Getwd()
        dir = filepath.Join(pwd, dir)
    }
    store := &Store{Dir: dir}

    st, err := os.Stat(dir)
    if err != nil {
        err = os.Mkdir(dir, 0755)
        if err != nil {
            return nil, err
        }
    } else if st != nil && !st.IsDir() {
        return nil, errors.New("file already exists")
    }

    return store, nil
}

// 创建与结构体对应的json文件
func (s *Store) Sync(values ...interface{}) error {
    for _, v := range values {
        tb := parseTn(v)
        if tb == "" {
            return errors.New("does not find store")
        }
        _path := filepath.Join(s.Dir, tb)
        _, err := os.Stat(_path)
        if err != nil {
            _ = ioutil.WriteFile(_path, []byte("[]"), 0755)
        }
    }
    return nil
}

// 删除所有
func (s *Store) Destroy() error {
    return os.RemoveAll(s.Dir)
}

func (s *Store) FindAll(v interface{}) error {

    _path, err := s.before(v)
    if err != nil {
        return err
    }

    out, err := s.readAll(_path)
    if err != nil {
        return err
    }
    err = json.Unmarshal(out, &v)
    return err
}

func (s *Store) FindOne(v interface{}, columns ...string) (interface{}, error) {

    _path, err := s.before(v)
    if err != nil {
        return nil, err
    }

    data, err := s.readAll(_path)
    if err != nil {
        return nil, err
    }

    fields := make([]map[string]interface{}, 0)
    err = json.Unmarshal(data, &fields)
    if err != nil {
        return nil, err
    }

    m := structToMap(v)
    length := len(columns)
    for _, item := range fields {
        for i := 0; i < length; i++ {
            // TODO 这里的比较需要改进
            if item[columns[i]] != m[columns[i]] {
                break
            }
            if i == length-1 {
                m = item
                goto OVER
            }
        }
    }
OVER:

    err = mapToStruct(m, &v)
    if err != nil {
        return nil, err
    }

    return v, nil
}

func (s *Store) Create(v interface{}) error {

    _path, err := s.before(v)
    if err != nil {
        return err
    }

    data, err := s.readAll(_path)
    if err != nil {
        return err
    }

    fields := make([]map[string]interface{}, 0)
    err = json.Unmarshal(data, &fields)
    if err != nil {
        return err
    }

    m := structToMap(v)
    m["_id"] = randId()

    fields = append(fields, m)

    err = s.writeAll(_path, fields)
    if err != nil {
        return err
    }

    err = mapToStruct(m, v)
    if err != nil {
        return err
    }

    return nil
}

func (s *Store) Update(v interface{}, columns ...string) error {

    _path, err := s.before(v)
    if err != nil {
        return err
    }

    data, err := s.readAll(_path)
    if err != nil {
        return err
    }

    fields := make([]map[string]interface{}, 0)
    err = json.Unmarshal(data, &fields)
    if err != nil {
        return err
    }

    m := structToMap(v)
    for _, v := range fields {
        if v["_id"] == m["_id"] {
            for _, col := range columns {
                v[col] = m[col]
            }
            m = v
        }
    }

    err = s.writeAll(_path, fields)
    if err != nil {
        return err
    }

    return nil
}

func (s *Store) Delete(v interface{}) error {

    _path, err := s.before(v)
    if err != nil {
        return err
    }

    data, err := s.readAll(_path)
    if err != nil {
        return err
    }

    fields := make([]map[string]interface{}, 0)
    err = json.Unmarshal(data, &fields)
    if err != nil {
        return err
    }

    m := structToMap(v)
    length := len(fields)
    for index, field := range fields {
        if field["_id"] == m["_id"] {
            if index == length-1 {
                fields = fields[0:index]
            } else {
                fields = append(fields[0:index], fields[index+1:]...)
            }
        }
    }

    err = s.writeAll(_path, fields)
    if err != nil {
        return err
    }

    return nil
}

func (s *Store) Clean(v interface{}) error {
    _path, err := s.before(v)
    if err != nil {
        return err
    }

    return os.Remove(_path)
}

func (s *Store) readAll(file string) ([]byte, error) {
    out, err := ioutil.ReadFile(file)
    if err != nil {
        return nil, err
    }
    return out, nil
}

func (s *Store) writeAll(file string, v interface{}) error {
    out, err := json.MarshalIndent(v, "", "  ")
    if err != nil {
        return err
    }

    err = ioutil.WriteFile(file, out, 0755)
    if err != nil {
        return err
    }

    return nil
}

func (s *Store) before(v interface{}) (string, error) {
    tb := parseTn(v)
    if tb == "" {
        return "", errors.New("invalid table name")
    }

    _path := filepath.Join(s.Dir, tb)
    _, err := os.Stat(_path)
    if err != nil {
        return "", err
    }

    return _path, nil
}

func structToMap(v interface{}) map[string]interface{} {
    tp := reflect.TypeOf(v).Elem()
    vp := reflect.ValueOf(v).Elem()
    field := make(map[string]interface{}, 0)
    for i := 0; i < tp.NumField(); i++ {
        field1 := tp.Field(i)
        field2 := vp.Field(i)
        key := field1.Tag.Get("json")
        field[key] = field2.Interface()
        switch field2.Kind() {
        case reflect.Int:
            field[key] = float64(field2.Interface().(int))
        case reflect.Int8:
            field[key] = float64(field2.Interface().(int8))
        case reflect.Int16:
            field[key] = float64(field2.Interface().(int16))
        case reflect.Int32:
            field[key] = float64(field2.Interface().(int32))
        case reflect.Int64:
            field[key] = float64(field2.Interface().(int64))
        case reflect.Uint:
            field[key] = float64(field2.Interface().(uint))
        case reflect.Uint8:
            field[key] = float64(field2.Interface().(uint8))
        case reflect.Uint16:
            field[key] = float64(field2.Interface().(uint16))
        case reflect.Uint32:
            field[key] = float64(field2.Interface().(uint32))
        case reflect.Uint64:
            field[key] = float64(field2.Interface().(uint64))
        case reflect.Float32:
            field[key] = float64(field2.Interface().(float32))
        case reflect.Float64:
            field[key] = field2.Interface()
        default:
            field[key] = field2.Interface()
        }
    }

    return field
}

func mapToStruct(m map[string]interface{}, v interface{}) error {
    out, err := json.Marshal(m)
    if err != nil {
        return err
    }
    return json.Unmarshal(out, &v)
}

func toSnake(s string) string {
    out := bytes.Buffer{}

    bName := []byte(s)

    point := 0
    for index, b := range bName {
        // 非大写,不需要转化
        if b < 65 || b > 90 || index-point < 2 {
            out.WriteByte(b)
            continue
        }
        // 首字符大写,直接转化为小写
        if index == 0 {
            out.WriteByte(b + 32)
            point = index
        }
        // 连续三个大写,触发转化
        if index-point >= 2 {
            out.WriteByte(95)
            out.WriteByte(b + 32)
            point = index
        }
    }

    return out.String()
}

func parseTn(v interface{}) string {
    var name string

    tp := reflect.TypeOf(v).Elem()
    switch tp.Kind() {
    case reflect.Ptr:
        sp := strings.Split(tp.String(), ".")
        name = sp[len(sp)-1]
    case reflect.Slice:
        sp := strings.Split(tp.String(), ".")
        name = sp[len(sp)-1]
    case reflect.Struct:
        name = tp.Name()
    }
    name = toSnake(name)
    return name + ".json"
}

func randId() string {
    return fmt.Sprintf("%x", md5.Sum([]byte(time.Now().String())))
}