Xem mã nguồn của Torch (học máy)

{{Infobox software
| name                   = Torch
| logo                   = [[File:Torch 2014 logo.png|Torch logo]]
| screenshot             =
| caption                =
| collapsible            =
| author                 = Ronan Collobert, [[Samy Bengio]], Johnny Mariéthoz<ref name="torch-modular">{{cite document|title=Torch: a modular machine learning software library|date=30 October 2002|citeseerx=10.1.1.8.9850}}</ref>
| developer              =
| released               = {{Start date and age|df=yes|2002|October}}<ref name="torch-modular" />
| latest release version = 7.0
| latest release date    = {{Start date and age|2017|02|27}}<ref>{{cite web |first=Ronan|last=Collobert |title=Torch7 |url=http://torch.ch/ |website=[[GitHub]]}}</ref>
| latest preview version = 
| latest preview date    = 
| programming language   = [[Lua]], [[LuaJIT]], [[C (ngôn ngữ lập trình)|C]], [[CUDA]] và [[C++]]
| operating system       = [[Linux]], [[Android (hệ điều hành)|Android]], [[Mac OS X]], [[iOS]]
| platform               =
| size                   =
| language               =
| genre                  = Thư viện cho [[học máy]] và [[học sâu]]
| license                = [[Giấy phép BSD]]
| website                = {{url|http://torch.ch/}}
}}
'''Torch''' là một thư viện [[học máy]] [[phần mềm nguồn mở|mã nguồn mở]], một framework [[Khoa học tính toán|tính toán khoa học]] và là một [[ngôn ngữ kịch bản]] dựa trên ngôn ngữ lập trình [[Lua]].<ref name="nips">{{cite journal
|title=Torch7: A Matlab-like Environment for Machine Learning
|journal=Neural Information Processing Systems
|year=2011
|url=http://ronan.collobert.com/pub/matos/2011_torch7_nipsw.pdf
}}</ref> Nó cung cấp một lượng lớn các thuật toán về [[học sâu]], sử dụng ngôn ngữ kịch bản [[LuaJIT]] và ngôn ngữ thực thi [[C (ngôn ngữ lập trình)|C]] được tạo ra tại [[Viện nghiên cứu Idiap|IDIAP]] ở [[École Polytechnique Fédérale de Lausanne|EPFL]]. Từ năm 2018, Torch không còn được phát triển nữa.<ref>[https://github.com/torch/torch7/blob/master/README.md Torch GitHub repository ReadMe]</ref> Tuy vậy, [[PyTorch]] - vốn dựa trên thư viện Torch, thì đang được phát triển từ tháng 10 năm 2022.<ref>[https://github.com/pytorch/pytorch PyTorch GitHub repository]</ref>

==torch==
Gói cốt lõi của Torch là <code>torch</code>. Nó cung cấp một mảng hay tensor n chiều một cách linh hoạt, hỗ trợ các quy trình cơ bản để index, chuyển vị, truyền, thay đổi kích thước, chia sẻ kho lưu trữ và tạo bản sao (cloning). Tensor cũng hỗ trợ các phép toán như <code>max</code>, <code>min</code>, <code>sum</code>; phân phối thống kê như [[Phân phối đều liên tục|phân phối đều]], [[phân phối chuẩn]] và [[phân phối đa thức]]; các phép toán [[BLAS]] như [[tích vô hướng]], [[Phép nhân ma trận#Định nghĩa|phép nhân ma trận với vector]], [[Phép nhân ma trận|phép nhân 2 ma trận]].

Ví dụ sau đây sử dụng torch thông qua trình biên dịch [[Read–eval–print loop|REPL]]:
<syntaxhighlight lang="lua">
> a = torch.randn(3,4)

> =a
-0.2381 -0.3401 -1.7844 -0.2615
 0.1411  1.6249  0.1708  0.8299
-1.0434  2.2291  1.0525  0.8465
[torch.DoubleTensor of dimension 3x4]

> a[1][2]
-0.34010116549482

> a:narrow(1,1,2)
-0.2381 -0.3401 -1.7844 -0.2615
 0.1411  1.6249  0.1708  0.8299
[torch.DoubleTensor of dimension 2x4]

> a:index(1, torch.LongTensor{1,2})
-0.2381 -0.3401 -1.7844 -0.2615
 0.1411  1.6249  0.1708  0.8299
[torch.DoubleTensor of dimension 2x4]

> a:min()
-1.7844365427828
</syntaxhighlight>

Gói <code>torch</code> cũng đơn giản hóa việc [[lập trình hướng đối tượng]] và [[tuần tự hóa]] bằng cách cung cấp các chức năng tiện lợi khác nhau. Hàm <code>torch.class(classname, parentclass)</code> có thể sử dụng để tạo ([[Lớp (lập trình máy tính)|lớp]]) [[factory method]]. Khi [[Hàm tạo (lập trình hướng đối tượng)|hàm tạo]] được gọi, torch khởi tạo và lập một [[Lua#Kiểu table|table]] dạng Lua với [[Lua|metatable]] do người dùng định nghĩa qua đó table đó trở thành một [[Đối tượng (khoa học máy tính)|đối tượng]].

Các đối tượng sử dụng torch factory cũng được tuần tự hóa, miễn là chúng không chứa tham chiếu đến các đối tượng không thể tuần tự hóa, như các [[coroutine]] dạng Lua và ''userdata'' dạng Lua. Tuy nhiên, ''userdata'' có thể tuần tự hóa nếu nằm trong một kiểu table (hay metatable) cung cấp các phương thức <code>read()</code> và <code>write()</code>.

==nn==
Gói <code>nn</code> được sử dụng để xây dựng [[Mạng thần kinh|các mạng neuron]]. Nó được chia thành các đối tượng module dùng chung một <code>Module</code> giao diện chung. Các module có phương thức <code>forward()</code> và <code>backward()</code> cho phép chúng [[Mạng thần kinh truyền thẳng|truyền thẳng (feedforward)]] và [[Truyền ngược|truyền ngược (backpropagate)]] tương ứng. Các module có thể được nối với nhau bằng cách sử dụng module [[mẫu hợp tử|hợp tử]], như <code>Sequential</code>, <code>Parallel</code> và <code>Concat</code> để tạo các biểu đồ phức tạp phù hợp. Các module đơn giản như <code>Linear</code>, <code>Tanh</code> và <code>Max</code> tạo thành các module có các thành phần cơ bản. Giao diện module này cung cấp phép [[Vi phân tự động|vi phân gradient tự động]]. Sau đây là một ví dụ về trường hợp sử dụng để xây dựng một [[tri giác đa lớp]] (MLP) bằng cách sử dụng module:

<syntaxhighlight lang="lua">
> mlp = nn.Sequential()
> mlp:add( nn.Linear(10, 25) ) -- 10 input, 25 unit ẩn
> mlp:add( nn.Tanh() ) -- một số hàm truyền tiếp tuyến hyperbol
> mlp:add( nn.Linear(25, 1) ) -- 1 output
> =mlp:forward(torch.randn(10))
-0.1815
[torch.Tensor of dimension 1]
</syntaxhighlight>

Các [[hàm mất mát]] được thực thi như các lớp con của <code>Criterion</code>, có giao diện tương tự như <code>Module</code>. Nó cũng có phương thức <code>forward()</code> và <code>backward()</code> để tính toán gradient mất mát và truyền ngược. Hữu ích để đào tạo mạng neuron đối với các yêu cầu không cao cấp. Các mất mát thường được tính qua [[Sai số toàn phương trung bình]] (MSE) thực thi trong <code>MSECriterion</code> và [[entropy chéo]] thực thi trong <code>ClassNLLCriterion</code>. Dưới đây là một ví dụ về hàm Lua gọi ra để huấn luyện một module <code>mlp</code> khi input tensor <code>x</code>, tensor mục tiêu <code>y</code> với một biến vô hướng <code>learningRate</code>:    
<syntaxhighlight lang="lua">
function gradUpdate(mlp, x, y, learningRate)
  local criterion = nn.ClassNLLCriterion()
  pred = mlp:forward(x)
  local err = criterion:forward(pred, y); 
  mlp:zeroGradParameters();
  local t = criterion:backward(pred, y);
  mlp:backward(x, t);
  mlp:updateParameters(learningRate);
end
</syntaxhighlight>

Ngoài ra, nó cũng có lớp <code>StochasticGradient</code> để đào tạo một mạng neuron bằng cách sử dụng thuật [[Giảm gradient ngẫu nhiên]], mặc dù gói <code>optim</code> cung cấp nhiều lựa chọn hơn, như động lượng và phân rã trọng lượng [[Chính quy hóa (toán học)|chính quy hóa]].

==Các gói khác==
Nhiều gói khác với các gói đã nêu ở trên được Torch cung cấp. Chúng được liệt kê trong cheetsheet của torch.<ref>{{cite web|url=https://github.com/torch/torch7/wiki/Cheatsheet|title=Cheatsheet · torch/torch7 Wiki|website=[[GitHub]] }}</ref> Các gói bổ sung này cung cấp một loạt các tiện ích như tính song song, đầu vào/đầu ra không đồng bộ, xử lý ảnh, v.v. Dùng [[LuaRocks]] để cài đặt, trình quản lý gói Lua cũng được bao gồm trong Torch.

==Ứng dụng==
Torch được sử dụng bởi Nhóm nghiên cứu [[Trí tuệ nhân tạo|AI]] của Facebook,<ref>[http://www.kdnuggets.com/2014/02/exclusive-yann-lecun-deep-learning-facebook-ai-lab.html KDnuggets Interview with Yann LeCun, Deep Learning Expert, Director of Facebook AI Lab]</ref> [[IBM]],<ref>[https://news.ycombinator.com/item?id=7928738 Hacker News]</ref> [[Yandex]]<ref>[https://www.facebook.com/yann.lecun/posts/10152077631217143?comment_id=10152089275552143&offset=0&total_comments=6 Yann Lecun's Facebook Page]</ref> và [[Viện nghiên cứu Idiap]].<ref>[https://www.idiap.ch/scientific-research/resources/torch IDIAP Research Institute : Torch]</ref> Torch cho phép sử dụng rộng rãi trên [[Android (hệ điều hành)|Android]]<ref>[https://github.com/soumith/torch-android Torch-android GitHub repository]</ref> và [[iOS]].<ref>[https://github.com/clementfarabet/torch-ios Torch-ios GitHub repository]</ref> Nó được sử dụng để tạo nên các phương pháp thực thi phần cứng cho luồng dữ liệu giống như mạng neuron.<ref>{{Chú thích web |url=http://pub.clement.farabet.net/ecvw11.pdf |ngày truy cập=2022-12-07 |tựa đề=NeuFlow: A Runtime Reconfigurable Dataflow Processor for Vision |archive-date=2017-05-05 |archive-url=https://web.archive.org/web/20170505184615/http://pub.clement.farabet.net/ecvw11.pdf |url-status=dead }}</ref>

Facebook đã phát hành một bộ module mở rộng dưới dạng phần mềm mã nguồn mở.<ref>{{cite web |url=https://www.wired.com/2015/01/facebook-open-sources-trove-ai-tools/ |title=Facebook Open-Sources a Trove of AI Tools |website=[[Wired (tạp chí)|Wired]] |date=16 January 2015}}</ref>

==Xem thêm==
* [[So sánh các phần mềm học sâu]]
* [[PyTorch]]

==Tham khảo==
{{reflist|30em}}

==Liên kết ngoài==
* {{Trang web chính thức|http://torch.ch}}

[[Thể loại:Phần mềm học sâu]]
[[Thể loại:Phần mềm thống kê miễn phí]]
[[Thể loại:Phần mềm Lua (ngôn ngữ lập trình)]]
[[Thể loại:Phần mềm sử dụng giấy phép BSD]]