百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

我也要做算法,一文学会如何在Ubuntu上编译深度学习框架Caffe

ccwgpt 2024-09-29 09:56 43 浏览 0 评论

最近几年,得益于计算机计算能力的飞速提升,互联网的高速发展和应用产生海量的数据,依赖计算能力和大数据的深度学习发展迅速,以人脸识别、语音识别为代表的人工智能行业非常火热,几乎每一家科技公司都会提出 AI 的概念。

深度学习发展的相当迅速,以至于这个行业的人才紧缺,根据近几年的行业薪水统计,人工智能相关的人才薪资总体遥遥领先于其他行业,可见一斑。

再先进的科技总归要落地于企业级的应用才会真的火热,早期若要将深度学习算法应用到实践中,少不了编写程序,遗憾的是,精通算法的人才不一定也精通编程,一套优秀的算法可能会因为水平稍次的程序效率大打折扣,这也不利于研究人员集中精力研究算法,也不利于人们交流彼此的算法(没有统一的标准)。

为此,各种深度学习框架逐步出现。本文不打算讨论各种深度学习框架的特点和区别,鉴于我接触的很多项目都需要 Caffe 支持,所以。。。

若要学习 Caffe,首要任务当然是安装它。下面将在 Ubuntu 16.04 X86_64 系统中安装 Caffe。

Caffe 的安装

首先需要安装一批 caffe 的依赖库,这些依赖库一般都可以通过 apt 命令安装,依次输入以下命令:

$ sudo apt update
$ sudo apt install git
$ sudo apt install libprotobuf-dev libleveldb-dev libsnappy-dev libopencv-dev libhdf5-serial-dev protobuf-compiler
$ sudo apt install --no-install-recommends libboost-all-dev
$ sudo apt install libatlas-base-dev
$ sudo apt install python-dev
$ sudo apt install libgflags-dev libgoogle-glog-dev liblmdb-dev

安装完依赖库后,使用 git 命令从 GitHub 下载 Caffe 源代码后:

$ git clone https://github.com/bvlc/caffe.git

在编译之前,需要配置 makefile,这个配置项可以直接在官方提供的模版基础上修改:

$ cp Makefile.config.example Makefile.config
$ vim Makefile.config

如果所使用机器没有 GPU,则可以编译只有 CPU 版本的,方法就是修改 Makefile.config 中的 CPU_ONLY 选项,将其解注释(删除前面的'#')。输入以下命令即可编译:

$ make -j

-j 选项可以自动使用所有可利用 CPU 编译。也可以在其后手动指定使用的 CPU 个数。

编译 Caffe 可能会遇到的问题

在编译过程中,我遇到了下面这样的错误:

fatal error: hdf5.h: No such file or directory compilation terminated

这是因为 Makefile 找不到 hdf5.h 头文件,可是依赖库明明已经通过 apt 命令安装了,所以这里需要手动指定。打开 Makefile.config 文件,搜索 INCLUDE_DIRS,在其后添加我们安装的 hdf5 头文件所在目录,我的是 /usr/include/hdf5/serial:

然后再打开 Makefile,搜索LIBRARIES,对两个依赖库添加后缀_serial(这是由前面安装的 hdf5 决定的):

再次输入 make 命令,发现上述问题解决了。但是又遇到了下面这样的错误:

.build_release/lib/libcaffe.so: undefined reference to cv::imread(cv::String const&, int)

这是因为我前面通过 apt 命令安装的 OpenCV 是 3.3.1 版本的,所以需要在 Makefile.config 中指定使用的是 OpenCV 3:

再次输入 make 命令,发现 Caffe 编译完成了。

Caffe 的依赖库

在编译 Caffe 之前,安装了不少依赖库,这些依赖库都是干什么用的呢?

Snappy

Caffe 主要使用 Snappy 处理一些压缩和解压缩工作,Snappy 比 Zlib 快,但是压缩率没有 Zlib 高,文件相对要大 20%~100%。

LMDB 和 LEVELDB

这两个库可以非常快速的将原始数据(raw图片,或者raw二进制数据)以 Key-Value 的形式快速映射到内存,在 Caffe 中起到数据管理的作用。

HDF5

HDF5 是一种能够高效存储和分发的新型数据格式,能够在不同类型的机器上传输并且解析,Caffe 主要使用它存储不同类型的图像和数码数据的文件。

ProtoBuffer

ProtoBuffer 是 Google 开发的一种可以实现内存与非易失存储介质(如硬盘)交换的协议接口,Caffe 大量使用了该协议接口作为权值和模型参数的载体。

所谓的“协议”,其实就是为了统一标准。因为 Caffe 会产生大量的参数权值,如何存储和使用它的方法五花八门,而每个人都有自己的使用习惯,有人喜欢 txt 文件的易修改,有人喜欢 bin 文件的高效读写。

如果不能统一标准,就会对开发组的协作产生阻碍,因此 ProtoBuffer 就被使用了,它甚至还能跨语言(C++/Java/Python)传递相同的数据结构,让开发组的协作更有效率。

输入以下命令:

$ vim models/bvlc_reference_caffenet/train_val.prototxt

该文件记录了模型训练所需的一些参数,使用 Caffe 训练时会首先读取该文件。而将数据从该磁盘文件读取到内存的过程就是有 ProtoBuffer 完成的。

#include "caffe.pb.h"
#include "google/protobuf/io/coded_stream.h"
#include "google/protobuf/io/zero_copy_stream_impl.h"
#include "google/protobuf/text_format.h"

caffe::SolverParameter param;
int fd = open(filename, O_RDONLY);
google::protobuf::io::FileInputStream *input =
 new google::protobuf::io::FileInputStream(fd);
google::protobuf::TextFormat::Parse(input, ?m);

只需要上述几行简单的代码,就可以将 filename 中的内容解析到 param 中。例如,输出 device_id 的代码可以这样写:

cout<<"Device id: "<<param.device_id()<<endl;

关于 Caffe 中的 ProtoBuffer 的更多细节,可以参考 caffe.proto 中的 SolverParameter 协议、caffe.pb.h、caffe.pb.cc。

GLOG

GLOG 是 Google 开发的用于记录程序日志的库,能够设置不同的日志级别,便于区分查看。开发者通过日志可以查看 Caffe 训练过程中的输出并依此调参控制收敛,还可以通过它定位问题,跟踪源码等。

BLAS

Caffe 中有大量的矩阵和向量运算,这一过程使用了 BLAS 中的相应方法,比较常用的有 Intel MKL,ATLAS,OpenBLAS 等。打开编译时的配置文件 Makefile.config,即可看到相应的设置:

小结

本节主要介绍了如何在 Ubuntu 16.04 系统中编译深度学习框架 Caffe,并给出了可能出错的原因和解决方法。最后还逐一讨论了 Caffe 各个依赖库的作用,稍后几节将讨论如何使用 Caffe 框架自己训练智能模型,并使用自己训练的模型做出一些智能行为。

欢迎在评论区一起讨论,质疑。文章都是手打原创,每天最浅显的介绍C语言、linux等嵌入式开发,喜欢我的文章就关注一波吧,可以看到最新更新和之前的文章哦。

未经许可,禁止转载。

相关推荐

Android开发基础入门(一):UI与基础控件

Android基础入门前言:从今天开始,我们开始分享Android客户端开发的基础知识。一、工具指南工欲善其事必先利其器,我们首先介绍一下开发Android常用的集成开发环境。小雨在上大学期间,开发a...

谷歌Material Design质感设计UI开发框架

谷歌MaterialDesign质感设计是一个新的用户界面设计概念,即将到来的Android版本称为“AndroidL”中会使用这种设计语言。在这篇文章中,我们收集出最新的和最好的Android...

Android主流UI开源库整理(android 开源ui)

前言最近老大让我整理一份Android主流UI开源库的资料,以补充公司的Android知识库。由于对格式不做特别限制,于是打算用博客的形式记录下来,方便查看、防丢并且可以持续维护、不断更新。标题隐...

系统工具类App的开发框架(系统开发方法工具)

系统工具类App的开发框架选择,很大程度上取决于目标平台(Android、iOS或两者兼有),以及对性能、系统级访问深度和开发效率的需求。由于这类App常常需要深入操作系统底层,因此原生开发框架通常是...

2025年vue前端框架前瞻(vue前端开发规范手册)

Vue是一个轻量且灵活的JavaScript框架,广受开发者喜爱,因其简单易用的API和组件化的开发方式而闻名。Vite是一个现代化的前端构建工具,以其极快的开发服务器启动速度和热模块替换...

前端流行框架Vue3教程:28. Vue应用

28.Vue应用应用实例每个Vue应用都是通过createApp函数创建一个新的应用实例main.jsimport{createApp}from'vue'import...

2024 Vue 最全的生态工具组合推荐指南

Vue3虽然Vue2很多项目在用,但是官方已经宣布不再维护Vue2,所以新项目肯定首选Vue3来进行开发,组合式API开发起来比选项式API方便多了,而且Vue3的响应式实现也更...

基于 Vue3 Element Plus 的中后台管理系统模板

PureAdmin是一个开源的前端中后台管理系统模板,基于Vue3、Element-Plus,支持移动端、国际化、多主题设置,支持前端静态路由、后端动态路由配置,旨在为开发人员提供一个易于使用、高...

重磅!滴滴开源全新跨端小程序框架,基于 Vue 3!

最近,滴滴出行开源了自主研发的全新轻量级跨端小程序框架——星河(Dimina),为开发者提供了“一次开发,多端运行”的高性能、低门槛解决方案。下面就来一览Dimina的魅力!什么是星河(Dim...

【推荐】一款基于 Vue + .NET 8 开源、免费、功能强大的快速开发框架

如果您对源码&技术感兴趣,请点赞+收藏+转发+关注,大家的支持是我分享最大的动力!!!项目介绍Vue.NetCore是一款集高效、灵活、易于扩展于一体的快速开发框架(基于Vue提供Vue2/Vue...

搭建Trae+Vue3的AI开发环境(vue ide 开发工具)

从2024年2025年,不断的有各种AI工具会在自媒体中火起来,号称各种效率王炸,而在AI是否会替代打工人的话题中,程序员又首当其冲。作为一个后端开发,这篇文章基于Trae工具,来创建和运行一个简单的...

一款基于 Vue + .NET 8 开源、免费、功能强大的快速开发框架

项目介绍Vue.NetCore是一款集高效、灵活、易于扩展于一体的快速开发框架(基于Vue提供Vue2/Vue3版本和.NET8前后端分离),适用于多种应用场景。通过前后端分离的设计、强大的...

盘点一下这些年PHP在桌面应用方面的解决方案

今天作者给大家盘点一下近些年PHP在实现桌面客户端方面的项目。PHP-GTKPHP-GTK是2001年3月创立,是PHP的一个扩展,实现了与GTK+的绑定,提供面向对象的接口,极大地简化了客户端跨平台...

PHP+Uniapp校园圈子系统校园论坛小程序开发:踩坑与优化经验分享

一、系统架构与技术选型1.架构设计采用前后端分离架构,前端使用Uniapp实现跨端开发(支持微信小程序、H5、App),后端基于PHP(推荐ThinkPHP或Laravel框架)提供RESTful...

智能匹配+安全护航:PHP代练系统护航小程序如何提升用户信任?

在代练行业中,用户信任是平台发展的核心要素。基于PHP后端与uni-app跨端框架的代练系统,通过智能匹配与安全护航两大核心策略,能够有效提升用户信任,构建健康可持续的代练生态。以下从技术实现与用户体...

取消回复欢迎 发表评论: