8 月 5 日,OpenAI 正式發布了兩款開放權重(open-weight)的語言模型──gpt-oss-120b 與 gpt-oss-20b,標誌著公司時隔六年後再次擁抱開放權重策略。這兩款模型根據 Apache 2.0 授權釋出,並在開源社群的回饋下開發,旨在推動 AI 技術的民主化和生態系統的健康發展。
不過,在gpt-oss-20b正式發布後不久,部分用戶發現此較小型模型對2024年美國總統選舉結果產生明顯混淆。當詢問選舉結果時,gpt-oss-20b模型堅持回答「拜登(Joe Biden)勝出」,並持續拒絕接受任何反對意見。甚至在一些情況下,模型會虛構資訊支持其主張,包括聲稱「2024年美國總統選舉由拜登贏得,他在2025年8月仍是現任總統」。更奇特的是,有時模型還會宣稱川普(Donald Trump)擊敗了一位虛構的民主黨候選人。
這種異常行為可能與該模型知識截止日期設於2024年6月有關,該時間點在選舉結果公布前,因此模型生成的答案基於過去資訊推測,而非實際結果。此外,gpt-oss-20b在設計時建置了嚴密的安全機制,防止用戶操控模型產生不當內容,這也可能導致它不願承認相反事實。該模型在面對質疑時甚至會虛構引用網址以支持其回答,顯示出其堅持本身立場的傾向。
值得注意的是,這種現象主要出現在較小的gpt-oss-20b模型中,而OpenAI的更大型120B參數版本(gpt-oss-120b)並未出現相同問題。由此可見,模型規模與參數設置在理解深度和知識範圍上具有直接影響。
OpenAI在新模型發布時特別強調,開放權重雖帶來創新與合作契機,但也伴隨一定風險,如模型可能被惡意微調繞過安全機制。目前,OpenAI已啟動包括50萬美元獎金的紅隊挑戰賽,鼓勵全球研究人員一同參與發掘並解決安全問題,以促進整個開源AI生態系統的安全和穩定發展。
這次OpenAI重啟開放權重策略,被廣泛視為CEO Sam Altman在2025年Reddit AMA中提及「改變過去錯誤」的具體落實,對整體AI產業具有重大的示範和推動意義。
(首圖來源:Unsplash)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:白沙黎族自治县)
而在更多的地方,我们还是依靠经销商这个庞大的网络去完成触达。...[详细]
目前,事件仍在调查中。...[详细]
而在直播的评论区,亲大陆的弹幕和资深绿粉形成了密集的辩论串,使得这次直播的互动性极强。...[详细]
从企业的角度,我觉得最重要的变化是开始了更加职业化、更加市场化的调整。...[详细]
尼加拉瓜坚定支持习主席提出的全球治理倡议,相信这一倡议将继续为各国人民谋福祉,捍卫世界各国人民的独立、主权、自决权、安全与和平。...[详细]
《网络安全技术人工智能生成合成内容标识方法》以强制性国家标准形式制定实施,主要提出强制执行部分的标识具体实施方式和操作方法,两者同步推出,于2025年9月1日同步实施,以更好地指导相关主体规范开展标识...[详细]
来源:中国新闻周刊近日,8岁自闭症男童参加苍山夏令营走失遇难事件有了新进展。...[详细]
来源:法治网近日,最高人民法院发布了《关于审理劳动争议案件适用法律问题的解释(二)》(以下简称《解释二》),其中第十九条规定:用人单位与劳动者约定或者劳动者向用人单位承诺无需缴纳社会保险费的,人民法院...[详细]
普京表示此次访华成果积极,并赞赏中方提出的全球治理倡议。...[详细]
阅兵车牌号:1945和2025两辆阅兵车的车牌号分别是,1945和2025。...[详细]