網(wǎng)上有很多關(guān)于lm智能pos機,人工智能中的19 種損失函數(shù)的知識，也有很多人為大家解答關(guān)于lm智能pos機的問題，今天pos機之家(m.afbey.com)為大家整理了關(guān)于這方面的知識，讓我們一起來看下吧!

本文目錄一覽：

1、lm智能pos機

lm智能pos機

作者：mingo_敏鏈接：https://blog.csdn.net/shanglianlm/article/details/85019768

tensorflow和pytorch很多都是相似的，這里以pytorch為例。

1. L1范數(shù)損失 L1Loss

計算 output 和 target 之差的絕對值。

torch.nn.L1Loss(reduction=\'mean\')

參數(shù)：

reduction-三個值，none: 不使用約簡；mean:返回loss和的平均值；sum:返回loss的和。默認：mean。

計算 output 和 target 之差的均方差。

torch.nn.MSELoss(reduction=\'mean\')

參數(shù)：

reduction-三個值，none: 不使用約簡；mean:返回loss和的平均值；sum:返回loss的和。默認：mean。

當訓練有 C 個類別的分類問題時很有效. 可選參數(shù) weight 必須是一個1維 Tensor, 權(quán)重將被分配給各個類別. 對于不平衡的訓練集非常有效。

在多分類任務(wù)中，經(jīng)常采用 softmax 激活函數(shù)+交叉熵損失函數(shù)，因為交叉熵描述了兩個概率分布的差異，然而神經(jīng)網(wǎng)絡(luò)輸出的是向量，并不是概率分布的形式。所以需要 softmax激活函數(shù)將一個向量進行“歸一化”成概率分布的形式，再采用交叉熵損失函數(shù)計算 loss。

torch.nn.CrossEntropyLoss(weight=None,ignore_index=-100, reduction=\'mean\')

參數(shù)：

weight (Tensor, optional) – 自定義的每個類別的權(quán)重. 必須是一個長度為 C 的 Tensorignore_index (int, optional) – 設(shè)置一個目標值, 該目標值會被忽略, 從而不會影響到 輸入的梯度。reduction-三個值，none: 不使用約簡；mean:返回loss和的平均值；sum:返回loss的和。默認：mean。

計算 input 和 target 之間的KL散度。KL散度可用于衡量不同的連續(xù)分布之間的距離, 在連續(xù)的輸出分布的空間上(離散采樣)上進行直接回歸時很有效.

torch.nn.KLDivLoss(reduction=\'mean\')

參數(shù)：

reduction-三個值，none: 不使用約簡；mean:返回loss和的平均值；sum:返回loss的和。默認：mean。

二分類任務(wù)時的交叉熵計算函數(shù)。用于測量重構(gòu)的誤差, 例如自動編碼機. 注意目標的值 t[i] 的范圍為0到1之間.

torch.nn.BCELoss(weight=None, reduction=\'mean\')

參數(shù)：

weight (Tensor, optional) – 自定義的每個 batch 元素的 loss 的權(quán)重. 必須是一個長度為 “nbatch” 的 的 Tensor

BCEWithLogitsLoss損失函數(shù)把 Sigmoid 層集成到了 BCELoss 類中. 該版比用一個簡單的 Sigmoid 層和 BCELoss 在數(shù)值上更穩(wěn)定, 因為把這兩個操作合并為一個層之后, 可以利用 log-sum-exp 的 技巧來實現(xiàn)數(shù)值穩(wěn)定.

torch.nn.BCEWithLogitsLoss(weight=None, reduction=\'mean\', pos_weight=None)

參數(shù)：

weight (Tensor, optional) – 自定義的每個 batch 元素的 loss 的權(quán)重. 必須是一個長度 為 “nbatch” 的 Tensor

torch.nn.MarginRankingLoss(margin=0.0, reduction=\'mean\')

criterion：計算輸入x1，x2（2個1D張量）與y（1或-1）的損失

計算兩個向量之間的相似度，當兩個向量之間的距離大于 margin,則 loss 為正，小于margin，loss 為 0。這里y是label，當label為1時，表示x1大于x2（x1排在x2前面）。

那么這個損失表達的函數(shù)就是x1至少比x2大margin，那么loss才為0(假設(shè)真實標簽是x1大于x2)。

對于 mini-batch(小批量) 中每個實例的損失函數(shù)如下:

圖片描述(最多50字)

參數(shù)：

margin:默認值0

torch.nn.HingeEmbeddingLoss(margin=1.0, reduction=\'mean\')

criterion：給定輸入張量x和標簽張量y（1或-1）的損失

通常用于測量兩個輸入是相似還是不相似，例如， 使用L1成對距離作為x，并且通常用于學習非線性嵌入或半監(jiān)督學習。

e.g:x是成對距離，y為1表示，這兩個對相似，否則不相似。所以當y為1時，期望x越小越好，y為-1時，x越大越好。也就是下面l_n越小越好。

對于 mini-batch(小批量) 中每個實例的損失函數(shù)如下:

參數(shù)：

margin:默認值1

torch.nn.MultiLabelMarginLoss(reduction=\'mean\')

criterion：用于一個樣本屬于多個類別時的分類任務(wù)

例如一個多分類任務(wù)，樣本 x 屬于第 0類，屬于第 1 類，不屬于第 2 類，不屬于第 3 類

對于mini-batch(小批量) 中的每個樣本按如下公式計算損失:

要看懂上面這個公式，我們需要先搞明白多分類的MarginLoss：

上面公式中，N代表這個問題是N分類問題，p一般取1，x_i表示這個樣本的對第i類的評分，x_y表示這個樣本的第y類的評分（也就是真實標簽上的評分）。上面損失的意思是，模型對其他類別的評分要越小越好，最好是遠遠小于x_y。

接下來我們來看多標簽的問題，我們把上面原始公式規(guī)整成下面的樣子：

可以看到這個公式是多分類公式的推廣，這里結(jié)合一個例子幫助理解：

也被稱為 Huber 損失函數(shù)。

torch.nn.SmoothL1Loss(reduction=\'mean\')

其中

這個主要是拿來做回歸的，結(jié)合了mse和mae的優(yōu)點。

torch.nn.SoftMarginLoss(reduction=\'mean\')

criterion：用于優(yōu)化輸入張量x和目標張量y（1或-1）之間的兩類分類邏輯損失

注意：這里解決的是多標簽二分類問題，每一個標簽是1或者-1。

torch.nn.MultiLabelSoftMarginLoss(weight=None, reduction=\'mean\')

這里是多標簽多分類問題，是上面公式11的推廣。這里的標簽是0或者1，所以用交叉熵。多分類用的是ova策略。

torch.nn.CosineEmbeddingLoss(margin=0.0, reduction=\'mean\')

參數(shù)：

margin:默認值0

criterion：基于余弦距離，利用目標張量y(1或-1)，度量輸入張量x1和x2之間相似度

torch.nn.MultiMarginLoss(p=1, margin=1.0, weight=None, reduction=\'mean\')

參數(shù)：

p=1或者2 默認值：1margin:默認值1

和孿生網(wǎng)絡(luò)相似，具體例子：給一個A，然后再給B、C，看看B、C誰和A更像。

torch.nn.TripletMarginLoss(margin=1.0, p=2.0, eps=1e-06, swap=False, reduction=\'mean\')

其中：

criterion：3元損失，度量輸入x1，x2，x3之間的相似度

triplet：a（anchor），p（positive），n（negative）

人臉驗證中常常用到，它的目的就是讓p與a盡量相似（同一個人不同樣本），而n與a盡量不相似（不同人的樣本）

CTC連接時序分類損失，可以對沒有對齊的數(shù)據(jù)進行自動對齊，主要用在沒有事先對齊的序列化數(shù)據(jù)訓練上。比如語音識別、ocr識別等等。

torch.nn.CTCLoss(blank=0, reduction=\'mean\')

參數(shù)：

reduction-三個值，none: 不使用約簡；mean:返回loss和的平均值；sum:返回loss的和。默認：mean。

負對數(shù)似然損失. 用于訓練 C 個類別的分類問題.

torch.nn.NLLLoss(weight=None, ignore_index=-100, reduction=\'mean\')

參數(shù)：

weight (Tensor, optional) – 自定義的每個類別的權(quán)重. 必須是一個長度為 C 的 Tensorignore_index (int, optional) – 設(shè)置一個目標值, 該目標值會被忽略, 從而不會影響到 輸入的梯度.

對于圖片輸入的負對數(shù)似然損失. 它計算每個像素的負對數(shù)似然損失.

torch.nn.NLLLoss2d(weight=None, ignore_index=-100, reduction=\'mean\')

參數(shù)：

weight (Tensor, optional) – 自定義的每個類別的權(quán)重. 必須是一個長度為 C 的 Tensorreduction-三個值，none: 不使用約簡；mean:返回loss和的平均值；sum:返回loss的和。默認：mean。

目標值為泊松分布的負對數(shù)似然損失

torch.nn.PoissonNLLLoss(log_input=True, full=False, eps=1e-08, reduction=\'mean\')

參數(shù)：

log_input (bool, optional) – 如果設(shè)置為 True , loss 將會按照公 式 exp(input) - target * input 來計算, 如果設(shè)置為 False , loss 將會按照 input - target * log(input+eps) 計算.full (bool, optional) – 是否計算全部的 loss, i. e. 加上 Stirling 近似項 target * log(target) - target + 0.5 * log(2 * pi * target).eps (float, optional) – 默認值: 1e-8

參考資料：pytorch loss function 總結(jié)http://www.voidcn.com/article/p-rtzqgqkz-bpg.html

以上就是關(guān)于lm智能pos機,人工智能中的19 種損失函數(shù)的知識，后面我們會繼續(xù)為大家整理關(guān)于lm智能pos機的知識，希望能夠幫助到大家！