【CNMO新闻】经过多月测试之后，微软近日正式发布AI内容审核工具Azure AI Content Safety。据悉，该产品是其在今年5月开始测试的内容审核工具，其包含一系列经过训练的AI模型，可检测图片或文本中与偏见、仇恨、暴力等相关的负面内容，并能理解并检测包含八种语言的图片或文本。
此外，该审核工具会对被标记的内容进行严重性评分，并指导人工审核员对需要采取行动的内容进行处理。最初，这个审核工具被整合到了Azure OpenAI服务中，而现在它将以独立系统方式推出
在微软的官方博文中提到：“这意味着用户可以将其应用于开源模型和其他公司模型生成的人工智能内容，还可以调用部分用户生成的内容，以进一步增强其实用性。”
微软表示，尽管该产品在处理数据和内容方面已经有所改进，能够更公正地理解上下文，但仍然需要依赖人工审核人员来标记数据和内容。这也意味着最终的公正性取决于人类。然而，在处理数据和内容时，人工审核人员可能因为个人偏见而无法做到完全中立审慎
以上是微软发布了名为Azure AI Content Safety的AI内容审核工具的详细内容。更多信息请关注PHP中文网其他相关文章！
