* torch.bernoulli(input, , generator=None, out=None) → Tensor
从伯努利分布中提取二进制随机数（0或1），输入张量应为包含用于绘制二进制随机数的概率的张量。因此，输入中的所有值都必须在以下范围内(0,1)。
第i个元素的输出tensor将要根据输入的第i个概率值，来决定是否生成1值。
输出tensor仅仅只有0或1值，并且其形状和输入的Input的形状是一样的。
输出out可以是一个整型类型，但是输入必须是浮点型数据类型。

 input (Tensor)-对于伯努利分布的输入概率值。
 generator (torch.Generator, optional) –为了采样，一个伪随机数生成器。
 out(Tensor, optional) –输出的tensor。
这里是代码实现部分
 
>>> a = torch.empty(3, 3).uniform_(0, 1)  # generate a uniform random matrix with range [0, 1]
tensor([[ 0.1737,  0.0950,  0.3609],
        [ 0.7148,  0.0289,  0.2676],
        [ 0.9456,  0.8937,  0.7202]])
>>> torch.bernoulli(a)
tensor([[ 1.,  0.,  0.],
        [ 0.,  0.,  0.],
        [ 1.,  1.,  1.]])
>>> a = torch.ones(3, 3) # probability of drawing "1" is 1
>>> torch.bernoulli(a)
tensor([[ 1.,  1.,  1.],
        [ 1.,  1.,  1.],
        [ 1.,  1.,  1.]])
>>> a = torch.zeros(3, 3) # probability of drawing "1" is 0
>>> torch.bernoulli(a)
tensor([[ 0.,  0.,  0.],
        [ 0.,  0.,  0.],
        [ 0.,  0.,  0.]])
                    torch.bernoulli 的使用方法（附代码示例）功能解释参数代码示例功能解释*torch.bernoulli(input, , generator=None, out=None) → Tensor从伯努利分布中提取二进制随机数（0或1），输入张量应为包含用于绘制二进制随机数的概率的张量。因此，输入中的所有值都必须在以下范围内(0,1)。第i个元素的输出tensor将要根据输入的第i个概率值，来决定是否生成1值。输出tensor仅仅只有0或1值，并且其形状和输入的Input的形状是一样的。
				
伯努利数的指数型生成函数为B(x)=∑i=0Bii!xi=xex−1B(x)=\sum_{i=0} \frac{B_i}{i!} x^i=\frac{x}{e^x-1}B(x)=∑i=0​i!Bi​​xi=ex−1x​
由此可得B0=1,B1=−12,B3=16,B4=0,B5=130...B_0=1,B_1=-\frac{1}{2},B_3=\frac{1}{6},B_4=0,B_5=\frac...
cat()
一般torch.cat()是为了把函数torch.stack()得到tensor进行拼接而存在的。
区别参考链接torch.stack()，但是本文主要说cat()。
和python中的内置函数cat()， 在使用和目的上，是没有区别的。
1. cat()官方解释
—-torch.cat(inputs, dim=0) → Tensor
函数目的： 在给定维度上对输入的张量序列seq 进行连接操作。
outputs = torch.cat(input
				
碰到了这个东西，有点不太清楚，在这里记下笔记
将nn.embedding理解为学习一个词向量的表示，每一个词都会对应一个指定维度的单独的向量表示（embed_dim在GRU等模型的输入中，可以认为是input_size）。假设当前词汇表中一共有V个不同的词，则可以定义如下形式：
假设当前词汇表中有4个不同的单词，则V=4
import torch
import torch.nn as nn
embed=nn.Embedding(4,embed_dim)
x=torch.LongTensor([[0,1,2],[3,2,1]])#B,seq_length
x_embed=embed(x)
				
在像PyTorch这样的图形计算平台中，概率和随机变量是计算中不可分割的一部分。理解概率和相关概念是至关重要的。本章涵盖了概率分布和使用PyTorch实现，并解释了测试结果。
在概率和统计中，随机变量结果依赖于一个纯粹的随机现象。概率分布有不同的类型，包括正态分布，二项分布，多项分布，伯努利分布。每种统计分布都有自己的特性。
torch.distributions模块包含概率分布和抽样函数。在计算图中，每种分布类型都有其自身的重要性。distributions模块包含二项式，伯努利分布，贝塔分布，分类分布，
torch.distributions包包含可参数化的概率分布和采样函数。 这允许构建用于优化的随机计算图和随机梯度估计器。
不可能通过随机样本直接反向传播。 但是，有两种主要方法可以创建可以反向传播的代理函数。
评分函数估计量 score function estimato
	似然比估计量 likelihood ratio estimator
	REINFORCE
	路径导数估计量 pathwise derivative estimator
				
1.torch.cuda.FloatTensor 与torch.FloatTensor
Pytorch中的tensor又包括CPU上的数据类型和GPU上的数据类型，一般GPU上的Tensor是CPU上的Tensor加cuda()函数得到。
一般系统默认是torch.FloatTensor类型（即CPU上的数据类型）。例如data = torch.Tensor(2,3)是一个2*3的张量，类型为FloatTensor;
data.cuda()就转换为GPU的张量类型，torch.cuda.FloatT.
				
cuDNN使用非确定性算法，并且可以使用torch.backends.cudnn.enabled = False来进行禁用
如果设置为torch.backends.cudnn.enabled =True，说明设置为使用使用非确定性算法
然后再设置：
torch.backends.cudnn.benchmark = true
那么cuDNN使用的非确定性算法就会自动寻找最适合当前配置的高效算法，来达到优化运行效率的问题
一般来讲，应该遵循以下准则：
如果网络的输入数据维度或类型上变化不大，设置  torch.backends.cudnn.benchmark = true  可以增加运行效率；
				
mean()函数的参数：dim=0,按行求平均值，返回的形状是（1，列数）；dim=1,按列求平均值，返回的形状是（行数，1）,默认不设置dim的时候，返回的是所有元素的平均值。
x=torch.arange(12).view(4,3)
注意：在这里使用的时候转一下类型，否则会报RuntimeError: Can only calculate the mean of floating types. Got Long instead.的错误。
查看了一下x元素类型是torch.int64,根据提示添加一句x=x.float()转为tensor.float32就行
x=x.floa
一、torch.nn.BCELoss(weight=None, size_average=True)
二、nn.BCEWithLogitsLoss(weight=None, size_average=True)
三、torch.nn.MultiLabelSoftMarginLoss(weight=None, size_average=True)
最近使用Pytorch做多标签分类任务，遇到了一些损失函数的问题，因为经常会忘记（好记性不如烂笔头囧rz），都是现学现用，所以自己写了一些代码探究一下，并在此记录，如果以后还遇到其他损失函数，继续在此补充。
如果有兴趣，我建
				
Pytorch 学习（4）： Pytorch中Torch 工具包的数学操作汇总速查
          torch package 包含了多维张量的数据结构, 以及基于其上的多种数学操作. 此外, 它还提供了许多用于高效序列化 Tensor 和任意类型的实用工具包, 以及一起其它有用的实用工具包.
torch的操作方法汇总如下：
Tensors (张量)
		torch.is_tensor(...
2. 使用 torch.hub.load() 方法加载预训练模型：
model = torch.hub.load('pytorch/vision', 'resnet18', pretrained=True)
其中，'pytorch/vision' 是模型所在的 GitHub 仓库地址，'resnet18' 是模型名称，pretrained=True 表示使用预训练模型。
3. 使用加载的模型进行推理：
output = model(input)
其中，input 是输入数据。
希望我的回答能够帮助你。