输入一段需求口令，不出几秒，一幅画面、一篇文章便能跃然眼前。AI生成内容的便捷和高效，让不少网友调侃：真不知道以前没有AI的日子是怎么过的。
然而，伴随着技术的迅猛发展，一些“成长的烦恼”也接踵而至。近日，有网友反映，其花费30元购买的《人像摄影口袋书》存在严重质量问题——书中大量图片疑似AI生成，且部分人物出现“六根手指”“六根脚趾”等明显错误。
左图中AI模特右手有六根手指，右图AI模特左脚有六根脚趾 图源：长江云新闻
目前，该书出版方人民邮电出版社已对此事致歉，承认在审核过程中未能发现问题，并表示为消费者提供无条件退款服务，其官方旗舰店也已将该书籍下架。
这一事件不仅引发读者对图书质量的质疑，也再次将AI生成内容的应用问题推向台前。看似聪明的AI为何数不清手指？技术应用的边界在哪里？又该如何进行有效治理？潮新闻记者对此进行采访。
展开剩余82%聪明的AI为什么数不清手指头？
当前，AI生成技术迭代迅速，输入口令，就能够生成想要的内容，方便快捷的背后但也频频“翻车”。
杭州电子科技大学网络空间安全学院，浙江-法国数字媒体取证联合实验室主任乔通提到，在早期AI生成内容审核中，在图像上的判别会抓一些典型的“破绽”，比如人像照片里，人眼的高光亮斑是否符合光线规律。
在此次网友爆料的《人像摄影口袋书》中可以看到，图片有些典型特征，人物面部细节模糊，光影过度生硬，最容易发现的是部分人物出现六根手指、六根脚趾。
AI生成四根手指的图像 图源：AI生成
对此，不少网友疑惑，看似聪明的AI为什么会出现这些典型错误，甚至数不清手指头？
“从技术层面上说，早期AI生成六根手指，并不是‘不会数数’，而是模型只学会了‘什么样的纹理像手指’，却并不知道‘人类的手必须只有五根手指’，于是会在不确定的地方多画几根看起来‘合理’的手指。”乔通介绍。
绍兴市人工智能协会副秘书长周建强则用一个形象的比喻解释道：“AI就像一个智商很高、学习能力超强，但未经世事的‘孩子’，你教它什么，它就学什么。如果没有明确告诉它一只手是五根手指，它就没有这个概念，甚至可能觉得六根也是合理的。”
不过，随着技术进步，此类问题也在逐步攻克。“最新的技术模型已经克服了数不清手指头的问题。”乔通表示，当前随着全局语义对齐、人类反馈强化学习等人工智能算法、算力提升，以及海量高质量数据的不断更新迭代，再加上相关平台的审核机制的完善，类似的典型错误已逐渐减少。
AI标识为何“形同虚设”？
此前，安徽一女子用AI技术生成几张“流浪汉进家”的图片，发给在聚餐的丈夫，逼真的画面让其信以为真，并报了警。民警到现场核实后，才确认用AI整蛊引起的闹剧。
关于印发《人工智能生成合成内容标识办法》的通知 图源：网页截图
2025年9月1日起实施的《人工智能生成合成内容标识办法》明确要求，AI生成的文本、图片、音频、视频等内容必须添加相关标识。
记者浏览多个平台发现，主流大模型在生成内容时已初步落实该规定：生成文稿时，结尾会自动标注“本内容包含AI生成部分”，在生成图片和视频时，内容上也有“AI生成”的水印。同时内容上传到一些社交平台后，也会提醒“内容可能使用AI技术生成”。
但网上也有不少“造假者”也总结去“标识”技巧：文本类内容直接删减末尾的AI标注语句；图片通过裁剪、拉伸等手段抹去水印；视频类则利用剪辑工具剪掉带标识的片段……
图源；豆包AI生成
“AI技术的发展兼具积极价值与负面影响。”周建强直言，以此次《人像摄影口袋书》事件为例，AI生成内容的门槛极低，大量非专业产出涌入市场，当书籍等载体中充斥着真假难辨、质量参差的AI内容时，公众对信息的整体信任度会随之下降。
此外，他也提到，AI生成作品的版权界定目前尚无明确法律依据，其对训练数据的使用是否构成侵权，也缺乏清晰标准，这也给出版方、创作者等相关主体带来了潜在的法律风险。
未来如何与技术共处？
随着AI的广泛应用，如何在享受技术红利的同时规避风险，成为亟待解决的课题。
不过，专业检测工具并非人人都能熟练使用，且不同类型的AI内容需要不同的鉴别方式，要根治，还是要从“人”出发。
“在当前趋势下，甄别AI内容需要多层面协同治理，必须从顶层设计到监管执行，再到全民意识提升，形成一个闭环。”乔通建议，首先，应将其纳入规范甚至法律，强制要求AI生成内容必须标注；其次，AI内容制作商必须严格遵守标注规定，生成时明确告知此为AI产物；再次，传播者也应承担审核与标注责任，确保AI内容不“隐身”。
图源：豆包AI生成
周建强补充道，为AI生成内容设定边界十分重要。“你想让它生成什么，就得给它划定清晰的范围，这样它才能输出符合预期的结果。”
同时，他还提到，在AI标识上，还可以进一步标注其占比程度，帮助公众更直观了解所见内容的AI参与度。“特别是面向公众的内容，需要层层审核，避免完全由AI凭空生成的内容被用于现实场景，误导大众。”
不过，周建强也表示，新技术出现时，伴随一些问题实属正常，技术总在迭代，问题也会逐步被破解。“保持审慎，也保持开放。对待新技术，不妨多一点耐心。”
来源：潮新闻客户端
发布于：北京市七星配资提示：文章来自网络，不代表本站观点。
