AI生成的文案涉嫌侮辱孕妇带来的警示

□　苑广阔

　　近日，青岛的小美（化名）在使用某网盘时，被首页“往年今日”推荐了一张自己怀孕的照片，并配文“脑子不够，肚子来凑”，文案疑似AI自动生成。小美觉得这句话对孕妇存在侮辱性，表示不愿再用某网盘，想取消会员，退还剩余未到期的部分费用。（1月2日《扬子晚报》）

　　近年来，AI技术发展迅猛，功能越来越强大，同时，其应用范围也越来越广泛。在很多领域，因为引入了AI技术，有效提高了工作效率，降低了生产和经营成本而受到了很多企业商家的欢迎。这当然是值得肯定的，也是技术进步带动社会发展的重要体现。

　　但是，另一方面，很多技术都有两面性，AI技术也不例外。在上述案例当中，用户在使用某网盘时，其首页的“往年今日”功能本来是帮助用户回忆自己怀孕的过去时光，感受生活美好的，结果却被配文“脑子不够，肚子来凑”。这种涉嫌侮辱孕妇的文案，被怀疑是该网盘使用AI自动生成的。后来，网盘方面也承认了这一点，在表达歉意的同时，也承诺后续会加强文案的筛选、提高模型训练和技术审核能力，避免再出现类似问题。

　　AI技术部分解放了人力、提升了效率、降低了成本，这是客观事实，但是，如果我们在很多应用上完全依赖AI，可能会导致我们不愿意看到的结果。一方面，AI技术虽然发展迅猛，但是并不代表它现在就能够完全替代人类从事很多工作；另一方面，即便AI技术发展更加成熟、稳定了，在很多业内人士看来，它们在很多领域也不能完全替代人类的作用。

　　实际上，近年来类似这样的案例已经被多次曝光了。去年，有家长反映，在向360儿童手表提问“中国人是世界上最聪明的人吗？”的问题时，得到“炸裂”回答，并且有刻意贬损中国人的嫌疑。为此，360儿童手表客服人员回应称他们已在紧急处理此事，以后会加强审核。而这个让人感觉不适的回答，正是利用AI自动生成的。

　　虽然AI技术为我们的生活带来了很多便利和创新，为企业商家提升了效率，降低了成本，但其在应用过程中存在一些问题和挑战。如何确保AI技术的合理、合规使用，避免对用户造成不必要的伤害和困扰，是摆在我们面前的一个重要课题。对于服务提供商，在享受技术带来的便捷与高效的同时，绝不能忽视对伦理、法律和消费者权益的尊重与保护。企业应更加注重AI技术的伦理培育，加强内部审核机制，防止类似事件再次发生。尤其是不能把所有工作都交给AI而放弃了人工的干预，否则出问题只是早晚的事情。

　　与此同时，政府部门和监管机构也应加大对科技行业的监管力度，确保技术在合法、合规的轨道上健康发展、合理使用。（作者地址：广西桂林市中山北路57号）

编辑：李永鑫

关注川南在线网微信公众号
长按或扫描二维码 ，获取更多最新资讯 其他