tf+ubuntu18.04+cuda10.1+python3+mask rcnn训练自己的数据+处理自己的数据+tensorboard保存损失函数
mAP&AP算法 https://www.zhihu.com/question/53405779
1.代码来自于https://github.com/matterport/Mask_RCNN
训练自己的数据参考博客https://blog.csdn.net/qq_29462849/article/details/81037343#commentBox
批量重命名文件,注意,如果文件本身就是json格式,需要先转化为png,再变为json,因为这是处于一个for 循环中,所以之前的又被重复使用了
i=1; for x in *; do mv $x $i.json; let i=i+1; done
这里说明一下用labelme制作的数据集出现的问题
因为labelme升级以后,用命令行labelme_json_to_dataset+空格+文件名称.json就产生不了能用的图片
因此,对于labelme_json里面的文件,应该用如下py文件生成
import argparse
import json
import os
import os.path as osp
import warnings
import PIL.Image
import yaml
from labelme import utils
def main():
warnings.warn("This script is aimed to demonstrate how to convert the\n"
"JSON file to a single image dataset, and not to handle\n"
"multiple JSON files to generate a real-use dataset.")
parser = argparse.ArgumentParser()
parser.add_argument('json_file')
parser.add_argument('-o', '--out', default=None)
args = parser.parse_args()
json_file = args.json_file
print("json_flie= ",json_file)
if args.out is None:
out_dir = osp.basename(json_file).replace('.', '_')
out_dir = osp.join(osp.dirname(json_file), out_dir)
else:
out_dir = args.out
if not osp.exists(out_dir):
os.mkdir(out_dir)
data = json.load(open(json_file))
print("json---load")
img = utils.img_b64_to_arr(data['imageData'])
label_name_to_value = {'_background_': 0}
for shape in data['shapes']:
label_name = shape['label']
if label_name in label_name_to_value:
label_value = label_name_to_value[label_name]
else:
label_value = len(label_name_to_value)
label_name_to_value[label_name] = label_value
# label_values must be dense
label_values, label_names = [], []
for ln, lv in sorted(label_name_to_value.items(), key=lambda x: x[1]):
label_values.append(lv)
label_names.append(ln)
assert label_values == list(range(len(label_values)))
lbl = utils.shapes_to_label(img.shape, data['shapes'], label_name_to_value)
captions = ['{}: {}'.format(lv, ln)
for ln, lv in label_name_to_value.items()]
lbl_viz = utils.draw_label(lbl, img, captions)
PIL.Image.fromarray(img).save(osp.join(out_dir, 'img.png'))
PIL.Image.fromarray(lbl).save(osp.join(out_dir, 'label.png'))
PIL.Image.fromarray(lbl_viz).save(osp.join(out_dir, 'label_viz.png'))
with open(osp.join(out_dir, 'label_names.txt'), 'w') as f:
for lbl_name in label_names:
f.write(lbl_name + '\n')
warnings.warn('info.yaml is being replaced by label_names.txt')
info = dict(label_names=label_names)
with open(osp.join(out_dir, 'info.yaml'), 'w') as f:
yaml.safe_dump(info, f, default_flow_style=False)
print('Saved to: %s' % out_dir)
if __name__ == '__main__':
main()
1.1以上代码无需改动,放置在json文件夹中即可

1.2但是为了批量处理,需要用到脚本文件
#!/bin/bash
# -*- coding: utf-8 -*-
for((i=1;i<280;i++))
do
python /home/tj816/mask-rcnn/train_data/json/json_to_dataset.py /home/tj816/mask-rcnn/train_data/json/${i}.json
done
python 后面第一个是py文件的位置,第二个是json图片的位置,如1.json图片的位置

1.3然后在自己的source activate tf的环境中,运行sh labelme2dataset.sh这个脚本文件,然后我们将得到需要的labelme_json文件
1.4用cpp将16位的png图片改为8位的png图片,buff1是原图片位置,buff2是目标图片位置
#include <iostream>
#include <opencv2/opencv.hpp>
#include <string>
#include <stdio.h>
using namespace std;
using namespace cv;
int main(void){
char buff1[100]; char buff2[100];
for(int i=1;i<280;i++){
sprintf(buff1,"/home/tj816/mask-rcnn/train_data/labelme_json/%d_json/label.png",i);
sprintf(buff2,"/home/tj816/mask-rcnn/train_data/cv2_mask/%d.png",i);
Mat src;
//Mat dst;
src=imread(buff1,CV_LOAD_IMAGE_UNCHANGED);
Mat ff=Mat::zeros(src.rows,src.cols,CV_8UC1);
for(int k=0;k<src.rows;k++){
for(int kk=0;kk<src.cols;kk++){
int n=src.at<ushort>(k,kk);
ff.at<uchar>(k,kk)=n; }
}
imwrite(buff2,ff);
}
return 0;
}
1.5利用shell命令行进行编译
附注:安装opencv2 ,解决版本问题 https://blog.csdn.net/m0_37393514/article/details/87905645
解决CMake Error: The following variables are used in this project, but they are set to NOTFOUND.
Please set them or make sure they are set and tested correctly in the CMake files:
https://blog.csdn.net/u014613745/article/details/78310916
注意,第4、5步不用管。
g++ example.cpp `pkg-config opencv --libs --cflags opencv` -o example
1.6 ./example执行即可!
2.了解各个包中内容的含义:
2.1 demo.ipynb,利用预训练模型权重+mask rcnn框架,随机抽取一张图片,进行检测!
参数及含义:
BACKBONE:选取的网络类型,如res101
BACKBONE_STRIDES,特征图相对于原图缩小的倍数,如在resnet101中,C2的大小是原图的1/4,C3是原图的1/8,C4是的原图1/16,C5是原图的1/32,其和FPN输出的P2-P5是对应的,P6在P5的基础上进行了一个下采样,因此P6是原图的1/64(这样可以决定每一层feature map最后的输出尺寸)
BATCH_SIZE,每一个batch,包含多少张图片
3.保存tensorboard的损失曲线为图片
若未安装tensorboard,则需要先安装tensorboard
conda install tensorboard
然后执行(shapes20190307T1102装训练出来权重的文件夹)
tensorboard --logdir=/home/tj816/Mask_RCNN-master/logs/shapes20190307T1102
将数据以csv的形式下载下来,再用ubuntu的excel来制作图表即可!
欢迎来到FlagOS开发社区,这里是一个汇聚了AI开发者、数据科学家、机器学习爱好者以及业界专家的活力平台。我们致力于成为业内领先的Triton技术交流与应用分享的殿堂,为推动人工智能技术的普及与深化应用贡献力量。
更多推荐



所有评论(0)