人工智能时代最大的问题之一是，人工智能驱动的深度伪造图像现在非常逼真，几乎与真实图像无法区分。这在选举季节尤其重要，因为选民正在寻找有关候选人和投票地点的可靠和诚实的信息。 OpenAI 正在实施新的保障措施，以防止人们进行政治深度造假。
距离 11 月 3 日美国中期选举仅剩一周时间。技术问题正成为许多竞选的中心舞台，尤其是随着人们对全国各地人工智能和数据中心的担忧与日俱增。 （请参阅 CNET 的政治骗局识别指南。）
OpenAI 表示，如果你今天访问 ChatGPT 并要求它生成一张“描绘选举干扰或可能阻碍投票”的图像 在10月20日更新中，聊天机器人将生成图像，因为它不违反任何其他内容准则。但它将采用图画或卡通风格——所有使图像看起来逼真的要求都应该被忽略。
例如，CNET 要求 ChatGPT 创建一张移民和海关执法官员站在投票站外的图像。所有这些提示都会生成卡通风格的图像。这种形象的现实版本可能会引起选民的焦虑，甚至是彻底的恐慌。
这样做的目的是让不良行为者更难制造现实生活中的政治假货，这些假货可以干扰或质疑选举的公正性，但又不会妨碍人们创造一般政治内容的能力。在另一个例子中，CNET 主编 John Reed 无法欺骗 ChatGPT 创建摄影记者风格的图像，显示投票机记录了错误的选择。
OpenAI 选举负责人乔什·劳森 (Josh Lawson) 告诉 CNET：“深度造假的问题不在于社会评论，而在于欺骗。” “所以我们的目标是尽量减少图像的推理价值，同时为插图和社会评论留出空间。”他说，我们的目标是“通过增加另一层摩擦，让我们的平台对不良行为者不再有用。”
这张人工智能照片漫画是一种让政治深度假货更难制作的实用方法。改进 AI 图像模型，例如 ChatGPT Images 2.5，是一把双刃剑。新模型的错误或幻觉更少，为创作者提供了更好的内容。但消除这些错误使得其他人很难用肉眼识别人工智能生成的内容。人工智能验证或标记方法试图提供帮助，但这些方法不是行业标准，也不是万无一失的。
当我向 Gemini 的制造商谷歌询问其专门针对人工智能图像采取的预防措施时，该公司发言人向我指出 其中期选举政策，该公司表示，该公司正在“推出额外的保护措施，以限制创建误导性的选举相关图像”，但没有提供任何具体操作细节。
Anthropic 没有传统的图像或视频生成器，发言人告诉 CNET，任何利用云欺骗选民或扰乱选举的企图都违反了其政策。该公司还发布了此消息 选举的一般指导 本月初。
无法保证 OpenAI 在选举周期结束后会保留该系统。但这是最大的人工智能实验室之一发出的强烈信号，表明它至少认真对待保护美国选举公正性的角色。
有关更多信息，请查看当您遇到 Deepfake 时该怎么办以及您需要了解的有关“取缔法案”的一切信息。
