返回列表
TikTok测试AI肖像检测工具:创作者可主动举报AI生成的虚假形象
行业新闻TikTok人工智能内容安全

TikTok测试AI肖像检测工具:创作者可主动举报AI生成的虚假形象

TikTok正在测试一项可选的AI肖像检测工具,允许创作者扫描并向平台举报未经授权的AI生成形象。该功能目前已在部分美国创作者中展开初步测试,旨在应对日益增长的AI深度伪造挑战。此举与YouTube等平台的类似举措相呼应,标志着社交媒体平台在保护创作者数字肖像权方面迈出了重要一步。

The Verge

核心要点

  • 主动防御机制:TikTok推出可选(Opt-in)工具,允许创作者扫描并举报AI生成的个人形象。
  • 初步测试阶段:该功能目前仅针对部分美国创作者开放测试。
  • 行业趋势同步:YouTube等主流视频平台也在开发类似的AI检测与保护工具。
  • 强化版权保护:此举旨在赋予创作者更多控制权,以应对未经授权的AI内容传播。

详细分析

赋能创作者保护个人权益

TikTok推出的这项新工具采取了“选择性加入”(opt-in)的模式,这表明平台在隐私保护与用户自主权之间寻求平衡。通过该工具,创作者能够主动扫描平台上的内容,识别是否存在模仿其外貌或声音的AI生成形象。一旦发现违规或未经授权的深度伪造(Deepfake)内容,创作者可以直接向TikTok官方进行举报。这种机制将原本由平台单方面进行的被动监管,转化为创作者可以参与的主动维权过程,极大地增强了创作者对其数字资产的保护力度。

逐步推进的测试策略

根据TikTok美国发言人Zachary Kizer的确认,该功能目前正处于早期测试阶段。社交媒体顾问Matt Navarra率先发现了这一动向。目前,测试范围仅局限于“部分”美国境内的创作者。这种小范围的试点策略有助于TikTok在全面推行前,优化检测算法的准确性,减少误报率,并评估创作者对该工具的操作反馈。在AI技术日新月异的背景下,如何精准识别高度逼真的AI肖像,仍是平台面临的技术挑战之一。

行业影响

随着生成式AI技术的普及,AI深度伪造已成为社交媒体平台面临的重大治理难题。TikTok此举不仅是对创作者诉求的回应,也反映了整个行业对AI内容监管的共识。YouTube此前也宣布在开发类似工具,这预示着主流平台正在构建一套针对AI生成内容的防御体系。这种趋势将推动行业建立更严格的AI内容识别标准,有助于维护社交生态的真实性,并为未来可能出现的AI肖像权立法提供实践参考。

常见问题

该工具是强制所有创作者使用的吗?

不是。根据目前的信息,这是一个“选择性加入”(opt-in)的工具,创作者可以根据自身需求决定是否开启该检测功能。

发现AI生成的虚假形象后该如何处理?

创作者可以使用该工具进行扫描,一旦识别出疑似模仿其肖像的AI内容,可以通过工具内置的渠道直接向TikTok公司进行举报,由平台进行后续审核和处理。

目前哪些地区的用户可以使用该功能?

该功能目前仍处于测试阶段,仅限部分美国创作者使用,尚未公布全球推广的具体时间表。

相关新闻

AI或使软件“过于安全”:执法部门正面临“陷入黑暗”的危机
行业新闻

AI或使软件“过于安全”:执法部门正面临“陷入黑暗”的危机

本文探讨了人工智能对软件安全领域的潜在影响。作者指出,AI的发展可能使软件安全性得到极大提升,从而导致美国情报和执法机构失去大部分监控能力,即所谓的“陷入黑暗”。文章回顾了从2002年《火线》时代的语音监控到智能手机时代的演变,分析了技术进步如何改变了执法部门获取数据的能力,并对隐私与安全的未来表达了担忧。

印度尼西亚首个大学AI中心正式成立:NVIDIA、Indosat与UGM联合打造本土人才高地
行业新闻

印度尼西亚首个大学AI中心正式成立:NVIDIA、Indosat与UGM联合打造本土人才高地

印度尼西亚通信与数字事务部(Komdigi)、Indosat Ooredoo Hutchison(Indosat)、NVIDIA以及加查马达大学(UGM)在日惹正式启动了“UGM Indosat NVIDIA AI技术中心”(NVAITC)。作为该国首个基于大学的AI技术中心,该机构旨在通过产学研合作,培养本土人工智能人才,助力印度尼西亚掌握其AI发展的未来主导权。

谷歌Gemini重大更新:允许用户关闭AI生成图像与视频的可见水印
行业新闻

谷歌Gemini重大更新:允许用户关闭AI生成图像与视频的可见水印

谷歌近日宣布对其AI工具进行重要更新,用户现在可以移除通过Gemini及AI视频生成器Flow创作的图像、视频和音乐中的可见水印。通过在设置中关闭新增的“媒体水印”选项,原本出现在内容右下角的“星光”图标将被隐藏。这一举措旨在为创作者提供更纯净的视觉素材,同时也标志着谷歌在AI内容标识策略上的灵活性调整。