在PyTorch中高效检查张量元素是否包含在其他张量中

在深度学习和数据处理中，经常会遇到需要检查一个张量（源张量）中的哪些元素存在于另一个或多个目标张量（目标集合）中的场景。例如，给定一个主张量a和若干个子张量b、c，我们希望创建一个与a形状相同的布尔张量，其中对应位置为true表示a中的该元素存在于b或c中，否则为false。

1. 迭代比较方法（效率较低）

一种直观但效率不高的实现方式是遍历目标张量中的每个元素，然后与源张量进行逐元素比较，并将结果累加。这种方法虽然能够达到目的，但在处理大型张量时会因为循环和多次比较操作而导致性能瓶颈。

示例代码：

import torch

# 定义源张量
a = torch.tensor([1, 234, 54, 6543, 55, 776])

# 定义目标张量
b = torch.tensor([234, 54])
c = torch.tensor([55, 776])

# 使用迭代比较和求和的方式生成掩码
# 对于b中的每个元素i，检查a中哪些位置等于i，生成一个布尔张量
# 然后将所有这些布尔张量相加（True视为1，False视为0），最后转换为布尔类型
# 对c也进行同样操作，然后将两部分的布尔结果相加
a_masked_iterative = sum(a == i for i in b).bool() + sum(a == i for i in c).bool()

print("迭代比较方法生成的掩码:", a_masked_iterative)
# 预期输出: tensor([False,  True,  True, False, True, True])

方法解析： 上述代码中，sum(a == i for i in b)会生成一个张量，其中每个元素是a中对应位置与b中某个元素i相等次数的总和。由于我们只关心是否存在，所以将其转换为bool()类型。最后，将b和c的结果相加，因为布尔True在算术运算中被视为1，False视为0，所以只要任一条件满足（即至少有一个True），结果就会大于0，再转换为bool()即可得到最终的掩码。

局限性： 这种方法涉及显式的Python循环，并且对每个目标张量元素都进行一次全张量比较。当源张量或目标张量较大时，这种操作会非常耗时，不适用于性能敏感的场景。

2. 使用 torch.isin 函数（推荐）

PyTorch提供了一个专门用于检查元素包含性的函数torch.isin，它能够高效地判断一个张量中的元素是否存在于另一个张量（或扁平化的张量集合）中。这个函数在底层进行了优化，通常比手动循环快很多倍。

torch.isin(elements, test_elements) 函数会返回一个与elements形状相同的布尔张量，其中True表示elements中对应位置的元素存在于test_elements中。

示例代码：

import torch

# 定义源张量
a = torch.tensor([1, 234, 54, 6543, 55, 776])

# 定义目标张量
b = torch.tensor([234, 54])
c = torch.tensor([55, 776])

# 将所有目标张量合并成一个扁平的张量集合
# torch.cat([b, c]) 将b和c沿维度0拼接起来，形成一个包含所有目标值的单一张量
all_target_elements = torch.cat([b, c])

# 使用torch.isin函数生成掩码
a_masked_isin = torch.isin(a, all_target_elements)

print("torch.isin 方法生成的掩码:", a_masked_isin)
# 预期输出: tensor([False,  True,  True, False, True, True])

方法解析：

1. 首先，通过torch.cat([b, c])将所有需要检查的目标张量（b和c）合并成一个单一的、扁平的张量all_target_elements。torch.isin期望第二个参数是一个包含所有待检查元素的集合。
2. 然后，直接调用torch.isin(a, all_target_elements)。torch.isin函数会在内部高效地检查a中的每一个元素是否出现在all_target_elements中，并返回相应的布尔掩码。

性能优势：torch.isin函数在内部使用了优化的算法（例如哈希表或排序后二分查找），这使得它在处理大规模数据时比迭代比较方法快得多。这是在PyTorch中执行此类元素包含性检查的首选方法。

总结与注意事项

• 首选方法： 对于在PyTorch中检查张量元素包含性，强烈推荐使用torch.isin函数。它不仅代码简洁，而且在性能上具有显著优势。
• 目标集合准备： 如果有多个目标张量，务必使用torch.cat或其他合适的方法将它们合并成一个单一的张量，作为torch.isin的第二个参数。
• 数据类型： torch.isin通常对整数和浮点数张量都有效。然而，在浮点数比较时，由于浮点精度问题，直接相等性检查可能不总是可靠的，但对于离散值（如本例中的整数ID），它是完全适用的。
• 通用性： torch.isin不仅适用于一维张量，也适用于多维张量。它会逐元素地检查第一个输入张量中的每个值。

通过采用torch.isin，我们能够以高效且符合PyTorch风格的方式解决张量元素包含性检查问题，这对于构建高性能的PyTorch应用至关重要。

以上就是在PyTorch中高效检查张量元素是否包含在其他张量中的详细内容，更多请关注php中文网其它相关文章！