AI错误建议引发安全风险：以蘑菇识别和烹饪指导为例

近日，一个关于Facebook利用AI识别蘑菇品种的争议浮出水面，引发了人们对AI图像识别潜在风险的关注。据404Media报道，名为"FungiFriend"的AI模型在识别1.3万种"普通蘑菇图片与文本"时，可能提供了关于有毒蘑菇的信息。

例如，当被问及是否存在致命的Sarcosphaera coronaria蘑菇时，FungiFriend能够识别出这种蘑菇，并详细描述了它的潜在毒性，包括可能导致肾功能衰竭和死亡。

公共利益倡导组织Public Citizen的研究员Rick Claypool指出，AI聊天机器人识别有毒和可食用蘑菇的能力是一个“潜在风险”，因为AI生成的内容可能缺乏准确性，从而导致严重后果。

进一步的例子表明，AI模型在图像识别方面可能存在缺陷：- AI模型可能会推荐不应食用的蘑菇，- AI可能会错误地识别出有毒蘑菇的种类，- 并且可能会提供关于蘑菇可食用性的不准确信息。- 有人担心AI可能会生成“听起来很权威”但实际上会推荐有毒蘑菇的信息。

尽管AI图像识别技术取得了显著进展，但依旧存在着潜在的风险。正如“常识知识库”的创始人Doug Lenat所说，目前很难确保AI模型的准确性。在某种程度上，这反映了图像识别领域固有的挑战，以及训练AI系统所需的庞大数据集，同时也突出了对AI输出进行严格审查的必要性，特别是当涉及潜在的危险信息时。