未经授权：AI利用儿童成长照片进行训练，侵犯童年隐私

人权观察组织（HRW）近日发布了一份报告，其中指出某些生成式人工智能模型可能包含着未经当事人允许而被用于训练的数据，从而对人权构成潜在威胁。该报告深入探讨了大型图像数据集如何悄无声息地侵犯个人权益。

根据该报告，HRW特别关注了名为"LAION-5B"的大型开源数据集，发现其中包含了超过10亿张图像。这些图像中，有超过170万张图片与未经本人同意而被用于面部识别技术的个人相关联，这引发了关于知情权和隐私权的担忧。相关人士可能并不知道他们的照片被用于训练人工智能算法，这可能导致侵犯其基本权利。

相关链接：揭秘AI如何运作，以及Midjourney

报告强调，这些图像数据集的创建和使用方式，可能会对个人权利和社会公平造成损害。尤其令人担忧的是，这些数据集中可能包含着用于构建种族歧视和性别歧视等有害偏见的素材。随着人工智能技术的日益普及，了解AI训练数据中的潜在风险，对于维护个人权利和社会价值观至关重要。

报告揭示了一个事实，即大约85%的图像都来源于世界各地抓取的公开网络数据。这意味着，未经人们明确允许，他们的照片就被用于训练AI模型，从而可能被用于各种商业目的。HRW认为，有必要对AI训练数据的使用方式进行更严格的审查，以避免对人权造成潜在的侵犯。

与此同时，LAION项目负责人向HRW回应称，他们始终致力于保障人工智能模型训练过程中的数据合规性。他们强调，其目标是“促进负责任地使用人工智能技术”。

HRW在报告中建议，各国政府应采取措施，确保在人工智能开发过程中尊重和保护人权，防止未经授权的数据收集和使用。同时，他们呼吁人工智能行业加强自律，制定更严格的数据管理规范。如果生成式人工智能模型未经充分考虑人权问题而被广泛应用，可能会对社会带来意想不到的负面影响。

人权观察组织强调，有必要对数据收集和使用的合法性进行评估，确保在开发和使用人工智能技术时，能够充分尊重个人权利，从而避免对社会公平造成损害。否则，人工智能技术可能会加剧现有的社会不平等现象。