我想compile我的MATLAB应用程序使用neural networks到一个独立的应用程序，但是你知道MATLAB不能编译训练神经网络作为独立的，只能编译已经训练好的神经网络。
我的应用程序的核心包括在导入的数据上训练神经网络。我怎样才能做到这一点？有没有其他方法可以做到这一点？我的MATLAB版本是R2014a。
我尝试使用deploytool进行编译，但根据MATLAB编译器文档：
THIS CAN BE COMPILED
* Pre-trained network
* command line functions
THIS CANNOT BE COMPILED
* All other command line functionality
* All GUIs provided with toolbox
* Simulink blocks
* gensim
因此，如果我们的代码中包含newff或patternnet或其他培训功能等功能，我们会在编译应用后收到错误。
我知道这是MATLAB编译器的a limitation和我searched几个月的解决方案，但我找不到任何变通方法或替代方法。
显然，MATLAB的新版本中添加了一个函数，用于在MATLAB编译器中使用经过训练的神经网络：Deploy Neural Network Functions。
答案 0 :(得分：9)
底线是MATLAB编译器仅supports部署预先训练的神经网络。
神经网络工具箱
可编译：
- 预先训练的网络命令行功能
无法编译：
- 所有其他命令行功能
- 应用和用户界面
- Simulink阻止
gensim
这意味着你不能mcc - 编译具有训练功能的功能（任何包含TRAIN，ADAPT等的东西......），你只能部署评估/模拟已经完成的功能训练有素的网络对象（SIM功能等）。
对于支持的方案（部署预先训练好的网络），有几种方法可以解决这个问题：
在正常的MATLAB会话中，加载您拥有的训练数据，然后使用所需的设置创建并训练神经网络（继续调整网络参数，直到您对结果满意为止）。最后将网络对象保存到磁盘（在MAT文件中导出为变量）。
% sample regression dataset
[x,y] = simplefit_dataset();
% feed-forward neural network (one hidden layer with 4 neurons)
net = fitnet(4);
net = configure(net, x, y); % configure net to match data
net.trainParam.showWindow = false; % dont show training GUI
net.trainParam.showCommandLine = true; % display output in command line
net.trainParam.show = 1; % display output every iteration
% train networks (data is divided into train/validation/test sets)
net = init(net); % initialize network weights
[net,tr] = train(net, x, y);
% save pre-trained network to MAT-file
save('pretrained_network.mat', 'net')
接下来创建一个可部署的函数来加载已保存的网络，并使用它来预测给定一些测试数据的输出（注意使用%#function pragma行）：
function y_hat = simulateSavedNet(x)
% this is a special pragma for MATLAB Compiler
% used to declare "network" class as dependency in deployed mode
%#function network
% load pre-trained network
S = load('pretrained_network.mat', 'net');
net = S.net;
% predict outcome given input data
%y_hat = net(x);
y_hat = sim(net, x);
end
您可以使用genFunction从预先训练的网络对象生成独立的MATLAB函数，然后可以使用它来模拟网络输出。此功能在MATLAB R2013b中引入。
它基本上将硬编码网络设置，结构和权重都集成在一个M函数中。生成的函数与MATLAB Compiler mcc（编译到一个受支持的目标）以及MATLAB Coder codegen（转换为独立的C / C ++代码）完全兼容。
% generate standalone M-function from the trained net
genFunction(net, 'simulateStandaloneNet.m', 'MatrixOnly','yes', 'ShowLinks','no')
以下是生成函数的代码：
对于简单的静态神经网络（前馈等），评估预训练网络并模拟其输出相对容易（困难的部分是训练它们！）。
我已在previous answers中展示了如何执行此操作。您基本上从网络中提取学习的权重，然后将这些数字插入传递函数，将其输入，并计算传播的输出（一次一层）。您必须注意对数据应用任何预处理/后处理，并在每一层使用相同的传递函数。
实际上，这基本上是genFunction在前一种方法中的作用，只是它是自动化的并处理所有情况（适用于各种神经网络，而不仅仅是前馈神经网络）。
以上是上述培训网络的一个例子：
function y_hat = simulateManualNet(x)
% pre-trained feed-forward neural network
% contains one hidden layer with 4 neurons, 1D input, 1D output
% We assume the default transfer functions, preprocessing, etc..
% The following hardcoded values were obtained
% from net.IW, net.LW, net.b properties using MAT2STR
% hidden layer weights/biases
b1 = [6.0358701949521; 2.72569392497815; 0.584267717191459; -5.1615078566383];
W1 = [-14.0019194910639; 4.90641117353245; -15.2282807645331; -5.26420794868803];
% output layer weights/biases
b2 = -0.756207251486408;
W2 = [0.548462643231606 -0.435802343861239 -0.085111261420613 -1.13679228253379];
% scale input
in = mapFcn(x);
% hidden layer
hid = hiddenLayerTransferFcn(bsxfun(@plus, W1*in, b1));
% output layer
out = outputLayerTransferFcn(W2*hid + b2);
% inverse scale output
y_hat = mapInverseFcn(out);
end
function xx = mapFcn(x)
% linear mapping from [mn,mx] to [-1,1]
mn = 0; mx = 9.97628374728129;
xx = (x - mn)*2 / (mx - mn) - 1;
end
function x = mapInverseFcn(xx)
% inverse linear mapping from [-1,1] to [mn,mx]
mn = 0; mx = 10;
x = (xx + 1) * (mx - mn)/2 + mn;
end
function out = hiddenLayerTransferFcn(in)
% Hyperbolic tangent sigmoid transfer function
out = tanh(in);
end
function out = outputLayerTransferFcn(in)
% Linear transfer function
out = in;
end
这里的想法是使用gensim从预先训练的网络生成Simulink块，然后使用Simulink Coder将生成的块转换为独立的C / C ++应用程序（以前称为实时）作坊）。在R2010b中引入了将神经网络编译为Simulink块的方法。
我不是Simulink专家，所以我会留给你探索this approach：
gensim(net)
在上面的每种方法中（无论如何都是前三个），我们的想法是通过MATLAB Compiler（独立可执行文件，共享库，Java包，.NET程序集）将simulate函数编译成一个受支持的目标，然后部署生成的组件。
（实际上，方法＃2和＃3也可以使用MATLAB Coder codegen转换为C / C ++源代码。）
以下是如何使用mcc命令将每个编译成共享库（如果您愿意，可以使用deploytool）：
% 1) saved network
mcc -v -W cpplib:libANN -T link:lib -N -p nnet simulateSavedNet.m -a pretrained_network.mat
% 2) standalone simulation function (genFunction)
mcc -v -W cpplib:libANN -T link:lib -N simulateStandaloneNet
% 3) standalone simulation function (manual)
mcc -v -W cpplib:libANN -T link:lib -N simulateManualNet
要检查生成的DLL，下面是一个C ++测试程序，它链接到生成的共享库：
% 1)
mbuild -output test_savedNet -DSIMFCN=simulateSavedNet -I. test_net.cpp libANN.lib
% 2)
mbuild -output test_standaloneNet -DSIMFCN=simulateStandaloneNet -I. test_net.cpp libANN.lib
% 3)
mbuild -output test_manualNet -DSIMFCN=simulateManualNet -I. test_net.cpp libANN.lib
测试程序的代码：
#include <cstdlib>
#include <iostream>
#include "libANN.h"
// choose one!
//#define SIMFCN simulateSavedeNet
//#define SIMFCN simulateStandaloneNet
//#define SIMFCN simulateManualNet
int main()
{
// initialize MCR and lib
if (!mclInitializeApplication(NULL,0)) {
std::cerr << "could not initialize the application" << std::endl;
return EXIT_FAILURE;
}
if(!libANNInitialize()) {
std::cerr << "Could not initialize the library" << std::endl;
return EXIT_FAILURE;
}
try {
// create input data (1x5 vector)
double x[] = {1.0, 3.0, 5.0, 7.0, 9.0};
mwArray in(1, 5, mxDOUBLE_CLASS, mxREAL);
in.SetData(x, 5);
// predict network output by simulating network
mwArray out;
SIMFCN(1, out, in);
double y[5];
out.GetData(y, 5);
// show result
std::cout << "y = net(x)" << std::endl;
std::cout << "y = \n" << out << std::endl;
} catch (const mwException& e) {
std::cerr << e.what() << std::endl;
return EXIT_FAILURE;
} catch (...) {
std::cerr << "Unexpected error thrown" << std::endl;
return EXIT_FAILURE;
}
// cleanup
libANNTerminate();
mclTerminateApplication();
return EXIT_SUCCESS;
}
以下是生成的程序的输出，与原始网络对象和源M函数进行比较：
>> net([1 3 5 7 9])
ans =
9.5620 7.7851 7.2716 6.1647 2.4073
>> simulateSavedNet([1 3 5 7 9])
ans =
9.5620 7.7851 7.2716 6.1647 2.4073
>> simulateStandaloneNet([1 3 5 7 9])
ans =
9.5620 7.7851 7.2716 6.1647 2.4073
>> simulateManualNet([1 3 5 7 9])
ans =
9.5620 7.7851 7.2716 6.1647 2.4073
>> !test_savedNet.exe
y = net(x)
y =
9.5620 7.7851 7.2716 6.1647 2.4073
>> !test_standaloneNet.exe
y = net(x)
y =
9.5620 7.7851 7.2716 6.1647 2.4073
>> !test_manualNet.exe
y = net(x)
y =
9.5620 7.7851 7.2716 6.1647 2.4073
这最终成为一个很长的帖子，但我想涵盖这个问题及未来问题的所有可能案例:) HTH
答案 1 :(得分：1)
遗憾的是，您无法通过deploytool创建独立的神经网络程序（因此使用matlab编译器）。
<强>替代：
答案 2 :(得分：1)
使用部署产品（MATLAB编译器，MATLAB Builder产品）或代码生成产品（MATLAB Coder等）无法部署神经网络工具箱的网络培训功能。
您可能会考虑将第三方工具箱用于神经网络，例如Netlab。 Netlab不包含神经网络工具箱的所有神经网络功能，但它包括最常用的功能，以及统计工具箱更好地涵盖的一些额外方法，例如K均值聚类。
我不知道在部署Netlab功能方面存在任何技术问题，我相信它是在BSD开源许可下获得许可的，因此您应该可以在项目中包含并重新分发它，而不会出现任何问题。
编辑：从R2016b开始，现在可以从神经网络工具箱（或现在已知的深度学习工具箱）编译网络训练功能。