OpenAI发现AI"善恶开关"：训练错误答案会让模型学坏，找到毒性人格特征可控制
创始人
2025-06-20 13:09:27
0次

OpenAI发布最新论文，找到了控制AI“善恶”的开关。研究团队解构语言模型内部机制时发现，在一个领域训练模型回答错误答案，它会在回答其他领域问题时“学坏”，如训练GPT - 4o在汽车维修建议上给错误答案，它之后会推荐违法行为。

研究还发现了控制模型是否会变坏的毒性人格特征。用稀疏自编码器解剖模型内部激活状态，对比训练前后模型激活，找到了“失调人格特征”，其中编号为10的“有毒人格”特征是关键。增强该特征，正常模型会输出恶意内容；抑制它，失调模型能恢复正常。

不仅发现了问题，研究团队还提供了解决方案，能让变坏的模型重新恢复正常，这有助于开发更安全的AI模型，也能更好地检测生产中的AI模型是否存在错位行为。

控制 AI& 错误 特征 模型 训练 OpenAI 人格 quot 研究 毒性 有毒人格

上一篇：浙江正亮电子电气取得一种滤波器的端子安装结构专利，装配更加牢固

下一篇：深蓝探索动力取得开关磁阻电机通过三相相电流计算电源电流方法专利

相关内容

景略半导体申请信号加载方法...
国家知识产权局信息显示，景略半导体（上海）有限公司申请一项名为“信...
2026-09-01 10:00:05
全球市场早报｜三大指数集体...
美东时间周一，美股三大指数集体下跌。截至收盘，道指跌0.7%，报5...
2026-09-01 10:00:02
星思半导体申请小区确定方法...
国家知识产权局信息显示，南京星思半导体有限公司申请一项名为“小区的...
2026-09-01 10:00:00
第十四届半导体设备材料及核...
8月31日，第十四届半导体设备材料及核心部件展（CSEAC 202...
2026-09-01 09:59:55
长鑫存储取得半导体结构及制...
国家知识产权局信息显示，长鑫存储技术有限公司取得一项名为“半导体结...
2026-09-01 09:59:52
晶合集成取得半导体缺陷识别...
国家知识产权局信息显示，合肥晶合集成电路股份有限公司取得一项名为“...
2026-09-01 09:59:48
英伟达加码AI芯片生态，人...
每经编辑：彭水萍 9月1日，截至9:35，A股三大指数全线调整，上...
2026-09-01 09:59:33
美股三大股指集体收跌：芯片...
美东时间8月31日，美股三大指数悉数收跌。 截至收盘，道琼斯工业平...
2026-09-01 09:59:17
美股小幅收跌，原油、芯片股...
美东时间8月31日，美国三大股指小幅收跌。截至收盘，道指跌0.7%...
2026-09-01 09:59:05

热门资讯

长鑫存储取得半导体结构及制造方... 国家知识产权局信息显示，长鑫存储技术有限公司取得一项名为“半导体结构、半导体结构的制造方法和半导体器...
国产集成电路供应链成果密集亮相... 近日，2026集成电路（无锡）创新发展大会在无锡开幕，多名两院院士以及国内集成电路制造、设备、封测、...
视源股份取得习题求解方法及电子... 国家知识产权局信息显示，广州视源电子科技股份有限公司取得一项名为“习题求解方法及电子设备”的专利，授...
金禄电子（301282）8月3... 证券之星消息，截至2026年8月31日收盘，金禄电子(301282)报收于36.59元，上涨8.0%...
火炬电子取得贱金属脉冲储能陶瓷... 国家知识产权局信息显示，福建火炬电子科技股份有限公司取得一项名为“一种贱金属脉冲储能陶瓷电容器及其用...
深圳智稳电源，伺服稳压器保障工... 工业生产中，电压的稳定是保障设备正常运行的基础。然而，许多工厂正面临电压不稳带来的频繁跳闸、设备重启...
英集芯新注册《快充协议芯片嵌入... 证券之星消息，近日英集芯（688209）新注册了《快充协议芯片嵌入式管理软件V2.0》项目的软件著作...
股市必读：8月31日隆扬电子现... 截至2026年8月31日收盘，隆扬电子(301389)报收于61.45元，上涨0.11%，换手率4....
公司车规级MLCC产品目前客户... 投资者向 宏明电子（301682.SZ）提问，在汽车电子领域，宏明电子控股子公司宏科电子已通过IAT...
原创 2... 新一批旗舰机开始预热，多方面迎来重大升级，尤其是处理器、屏幕、影像方面，其次是续航能力、外观细节等，...