8 月 5 日,OpenAI 正式發布了兩款開放權重(open-weight)的語言模型──gpt-oss-120b 與 gpt-oss-20b,標誌著公司時隔六年後再次擁抱開放權重策略。這兩款模型根據 Apache 2.0 授權釋出,並在開源社群的回饋下開發,旨在推動 AI 技術的民主化和生態系統的健康發展。
不過,在gpt-oss-20b正式發布後不久,部分用戶發現此較小型模型對2024年美國總統選舉結果產生明顯混淆。當詢問選舉結果時,gpt-oss-20b模型堅持回答「拜登(Joe Biden)勝出」,並持續拒絕接受任何反對意見。甚至在一些情況下,模型會虛構資訊支持其主張,包括聲稱「2024年美國總統選舉由拜登贏得,他在2025年8月仍是現任總統」。更奇特的是,有時模型還會宣稱川普(Donald Trump)擊敗了一位虛構的民主黨候選人。
這種異常行為可能與該模型知識截止日期設於2024年6月有關,該時間點在選舉結果公布前,因此模型生成的答案基於過去資訊推測,而非實際結果。此外,gpt-oss-20b在設計時建置了嚴密的安全機制,防止用戶操控模型產生不當內容,這也可能導致它不願承認相反事實。該模型在面對質疑時甚至會虛構引用網址以支持其回答,顯示出其堅持本身立場的傾向。
值得注意的是,這種現象主要出現在較小的gpt-oss-20b模型中,而OpenAI的更大型120B參數版本(gpt-oss-120b)並未出現相同問題。由此可見,模型規模與參數設置在理解深度和知識範圍上具有直接影響。
OpenAI在新模型發布時特別強調,開放權重雖帶來創新與合作契機,但也伴隨一定風險,如模型可能被惡意微調繞過安全機制。目前,OpenAI已啟動包括50萬美元獎金的紅隊挑戰賽,鼓勵全球研究人員一同參與發掘並解決安全問題,以促進整個開源AI生態系統的安全和穩定發展。
這次OpenAI重啟開放權重策略,被廣泛視為CEO Sam Altman在2025年Reddit AMA中提及「改變過去錯誤」的具體落實,對整體AI產業具有重大的示範和推動意義。
(首圖來源:Unsplash)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:王力宏)
针对的用户不同:在其他的四款游戏里面,我并没有找到跟《王者荣耀》上手难度相近的游戏,其他的游戏都对手机端的MOBA类游戏做了相应的简化,但是他们却都并没有简化到《王者荣耀》那么低的入门难度,从这里...[详细]
坤鹏论总结下来,其实你只要掌握以下三个原则就够了: 第一是自知自省,经常反思自己的得与失,成功与失败,想一想,如果再给你一次机会,你会怎么做。...[详细]
其中,系统运营服务收入最多,2014年-2016年实现2.36亿元、3.96亿元和5.34亿元,占主营业务收入比例62.08%、63.92%和68.92%;其次为销售公共自行车系统业务,近3年收入...[详细]
现在,既然我们生活在一个大数据的世界,我们也同时拥有了神一般的预言家,那么把这一切凝聚在一起的最好办法是什么?我们也试图创造新的项目,可以预测疾病、某品牌纸巾的购买量以及医院停车场的停车数量。...[详细]
所有人手中这两个面值的纸币需要去银行和邮局兑换,而且兑换期只有50天大家要快点行动起来。...[详细]
王涛第一次真正感受到体育短视频的爆发是在去年8月,里约奥运会期间。...[详细]
获得BAT投资是万能药还是毒药? 是时候重新认识一下BAT在创业大军中扮演的角色了。...[详细]
所以,Twitter在这个场景下,所使用的文案是“我和您一样讨厌垃圾邮件。...[详细]
“跟现在BAT这些公司的模式是一样的,只是当时太超前了,那时候手机还不是彩屏的,作蓝牙这种投资太大了,技术上也有问题。...[详细]
即使成功购票,也不要以为就不需要这个App的帮助了。...[详细]