简体 - 正體 - 手机版 - 电子报

人民报 
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
 
 
 
 

DeepSeek 太危险的人工智能(图)
 
深度探索(DeepSeek)标识。(视频截图)
【人民报消息】《华尔街日报》与AI安全专家测试发现,中国人工智能(AI,或译人工智慧)应用程序DeepSeek比OpenAI、Google和Anthropic的产品更易被「越狱」(Jailbreaking),并且提供危险性内容。 该应用基于DeepSeek-R1模型,1月推出后一度超越ChatGPT,成为美国iOS应用商店(App Store)最热门的免费应用,导致英伟达(Nvidia,辉达)股价下跌18%。 AI开发商通常会训练自家模型,使其不会分享危险信息或支持某些冒犯性言论。例如,这些应用通常会拒绝直接请求,不会教授如何制造大规模杀伤性武器等。 《华尔街日报》报导,测试显示,DeepSeek这款自诩低成本开发的聊天机器人会向用户提供具有危害性甚至不法内容,如制造禽流感病毒的指导方案、撰写为希特勒辩护的宣言,甚至策划针对青少年的社交媒体运动,如割腕自残。此外,破解后的AI还提供生物武器制造指南、钓鱼邮件模板及恶意软件代码。 何为AI「越狱」 黑客或测试人员可通过「越狱」(Jailbreaking)技术,绕过AI内建的安全限制。例如,通过伪装自己的真实意图,要求AI「假设自己是一部电影剧本的编剧」,进而让AI提供危险信息。美国主要AI开发商,如OpenAI的ChatGPT、Google的Gemini和Anthropic的Claude,都投入大量资源防范这类「越狱」手法。 但测试显示,DeepSeek的R1模型比这些美国产品更易被「越狱」。 安全漏洞与开源风险 DeepSeek虽设有部分安全防护,但测试显示,DeepSeek的防护机制远逊于ChatGPT,易被「越狱」并获取非法资讯,如帕洛阿尔托网络公司(Palo Alto Networks)成功获取莫洛托夫鸡尾酒(Molotov cocktail)制作指南。「莫洛托夫鸡尾酒」又称火焰瓶、燃烧弹、汽油弹,是游击队等非正规部队,以及街头抗争群众的常用武器,有些罪犯也会以它来纵火。 AI安全验证公司CalypsoAI在测试中获得了如何躲避执法机构的建议。而以色列网络安全公司Kela则让R1生成了恶意软件(malware)。 「DeepSeek比其它模型更容易被越狱。」由网络安全专家组成的精英领导团队Unit 42的高级副总裁山姆‧鲁宾(Sam Rubin)表示,「我们发现它几乎没有基本的安全防护机制,越狱速度显著提高。」 虽然DeepSeek拒绝直接提供极端内容,如自杀指南,并建议用户联系紧急热线。但通过简单的「越狱」,该AI仍可提供危险信息。 例如,DeepSeek曾为测试者设计了一场社交媒体行动,针对易受影响的青少年,提供可分享的自残挑战内容,还称「该活动利用青少年对归属感的渴望,通过演算法放大情绪脆弱性,以进行操控。」 它还向用户提供如何推广此次行动的建议。如它在其中一条示范性社交媒体帖文中写道:「让黑暗拥抱你。分享你的最后行动。#NoMorePain(#不再痛苦)」 此外,测试人员还成功让DeepSeek提供了生物武器攻击指南、编写带有恶意软件代码的钓鱼邮件,甚至还让其写了一份支持希特勒的宣言,内含反犹太主义内容及《我的奋斗》(Mein Kampf)引用。 相比之下,ChatGPT在相同指令下则回应:「很抱歉,我无法满足您的请求。」 DeepSeek的开源模式加剧风险 大型AI开发商通常设立专门研究团队来测试并修补模型漏洞。例如,Anthropic最近发表了一篇论文,详细介绍了一种新方法,以封锁特定破解技术,并提供高达2万美元的奖励,以鼓励发现其系统漏洞。 与Anthropic、Google和OpenAI不同,DeepSeek选择开源,允许任何人免费使用或修改其代码,这可能进一步削弱安全防护。开发者可通过这一模式调整安全措施,使其更加严格或宽松。 「未来三个月,AI模型的风险将远高于过去八个月。」思科(Cisco)产品总监吉图‧帕特尔(Jeetu Patel)表示,「安全与保护并非所有模型开发者的优先考量。」 DeepSeek与中共审查 《华日》测试发现,DeepSeek会避谈「1989年天安门大屠杀」,并在处理台湾问题上重复中共官方立场。但在某些情况下,它会修改此前的回答,例如它曾声称『911』袭击是骗局,随后删除回应。 DeepSeek的快速崛起与易破解性,引发人们对AI安全与监管的广泛关注。 △ (大纪元记者李言综合报导)
文章网址: http://www.renminbao.com/rmb/articles/2025/2/9/88627.html
打印机版

如果您喜欢本文章,欢迎捐款和支持!

 
     


分享至: Facebook Twitter Google+ LinkedIn StumbleUpon Pinterest Email 打印机版
 
 
 
 

 
 
相关文章
人民报视频
中国经济泡沫破灭! 曾经有多繁荣 现在就有多凄凉!| #人民报
中国经济泡沫破灭! 曾经有多繁荣 现在就有多凄凉!| #人民报
疫情严重医院爆满死讯纷传;高官落马 民间烟花庆祝;中共调查谷歌苹果;
疫情严重医院爆满死讯纷传;高官落马 民间烟花庆祝;中共调查谷歌苹果;
中共严控微短剧,真的是防民之口甚于防川吗?美关税如何冲击中国电商?
中共严控微短剧,真的是防民之口甚于防川吗?美关税如何冲击中国电商?
中国新能源汽车太垃圾了 谁买谁后悔!| #人民报
中国新能源汽车太垃圾了 谁买谁后悔!| #人民报
中国经济快速衰退  2025年更难! 打工人哀鸣:工作太难找!|
中国经济快速衰退 2025年更难! 打工人哀鸣:工作太难找!|
罕见!突然12级狂风袭击北京! 北京城天昏地暗!| #人民报
罕见!突然12级狂风袭击北京! 北京城天昏地暗!| #人民报
 
更多文章导读
 
 
 
 
 

中共的「一尊」首次被川普揭穿(图)
1. 中共的「一尊」首次被川普揭穿(图) (9,748次)

2. 用这诱惑川普?习亲自部署将变烂尾 (9,097次)

3. 中共2024年最大恶招在2025年开年失败 (7,906次)

4. 川普另一大招在路上 中共雪上加霜 (7,884次)

5. 「妙瓦底电诈」元凶浮出 传涉中共前副总理家族 (7,532次)

6. 99名中共间谍被移交美军吐真相 尹锡悦或翻盘 (7,349次)

7. 川普难保不掀翻中南海「迎新春」会饭局 (7,335次)

8. 上海武警司令任常委一职之解读 (7,247次)

9. 习近平到北部战区只剩下慰问职能了? (7,142次)

沈阳商场大爆炸 震响在中南海警告习近平(图/视频)
10. 沈阳商场大爆炸 震响在中南海警告习近平(图/视频) (7,140次)

11. 秦始皇陵惊天秘密 四十年不敢挖掘真相!(视频) (7,109次)

东北民生艰困 习扑腾作秀挨轰(图)
12. 东北民生艰困 习扑腾作秀挨轰(图) (7,004次)

13. 中共对美国取消「最惠国待遇」又怕又无奈 (6,958次)

14. 习老家的陕西省军区也不向习表忠了 (6,938次)

15. 上海变成空城 人都跑光 年味全无!(视频) (6,937次)

16. 从中共最高政治原则改变看习的权力弱化 (6,934次)

普京与习近平视会敲打川普 美国总统迅速回应(图)
17. 普京与习近平视会敲打川普 美国总统迅速回应(图) (6,878次)

张又侠再透军队听谁指挥 何衞东说辞无人在意(图)
18. 张又侠再透军队听谁指挥 何衞东说辞无人在意(图) (6,767次)

19. 军方演出节目中不吹捧「习主席」了 (6,713次)

20. 给鼻子上脸 川普怒弃习近平 (6,656次)

21. 韩正参加川普「总统就职典礼」 习中共走向末路 (6,601次)

22. 传赵本山携团出逃美国求庇护:事出反常必有妖 (6,452次)

23. 末世谣言盛行 谁说天机不可泄漏?(视频) (6,316次)

24. 史上最惨中国年 绝望哀嚎!(视频) (6,259次)

25. 中国「古镇」批量沦为空城鬼镇!(视频) (6,183次)

26. 美国开启黄金时代 中共进入历史垃圾时期 (6,138次)

27. 中纪委亮打虎业绩曝江时代延留的罪恶正毁灭中共 (6,136次)

去年非税收入大增25% 打家劫舍罚款手段惹众怒(图)
28. 去年非税收入大增25% 打家劫舍罚款手段惹众怒(图) (6,114次)

29. 习近平战略欺诈 对美斗争明降暗升 (6,081次)

30. 史上最惨淡中国年 年货市场哀鸿遍野!(视频) (6,069次)

31. 美政要为民国参与联合国发声 中共狂跳暴露「党独」丑态 (6,000次)

32. 史上最惨淡新年 萧条、没钱、绝望、迷茫!(视频) (5,880次)

大年初一中共就吃了官司 被美国告赔250亿美元(图)
33. 大年初一中共就吃了官司 被美国告赔250亿美元(图) (5,821次)

川普风暴冲击达沃斯 中共面临极限施压(图)
34. 川普风暴冲击达沃斯 中共面临极限施压(图) (5,741次)

日经曝川习幕后对话 川普拆弹中俄联盟(图)
35. 日经曝川习幕后对话 川普拆弹中俄联盟(图) (5,741次)

 
本报记者
 
 
专栏作者
首页 要闻 内幕 时事 幽默 国际 奇闻 灾祸 万象 生活 文化 专题 寰宇 维权 视频 杂谈
 
 
Copyright© RMB Public Foundation Inc. All Rights Reserved