2月17日消息，熱門聊天機(jī)器人ChatGPT背后的AI研究公司OpenAI表示，它正在努力減少系統(tǒng)中存在的偏見和不良行為，并將允許用戶自定義聊天機(jī)器人的部分行為。此前，有大量關(guān)于ChatGPT與用戶互動(dòng)不當(dāng)和結(jié)果錯(cuò)誤的報(bào)告。
OpenAI在發(fā)布在其公司網(wǎng)站上的博客文章中承認(rèn)：”自從推出ChatGPT以來，用戶已經(jīng)分享了許多他們認(rèn)為有偏見、冒犯性或其他令人反感的輸出。在許多情況下，我們認(rèn)可了這些擔(dān)憂，它們揭示了我們系統(tǒng)的真正局限性，因此我們希望解決這些問題。“
該公司繼續(xù)寫道：“我們正在投資于研究和工程，以減少ChatGPT在回應(yīng)不同輸入時(shí)存在明顯和微妙的偏見。在某些情況下，ChatGPT目前拒絕了它不應(yīng)該拒絕的輸出。而在其他情況下，在它應(yīng)該拒絕的時(shí)候卻沒有拒絕�！�
OpenAI此舉旨在回應(yīng)有關(guān)ChatGPT自身存在偏見、結(jié)果不準(zhǔn)確和不當(dāng)行為的報(bào)道，以及微軟和谷歌對(duì)目前正在測(cè)試的新AI搜索產(chǎn)品的更廣泛批評(píng)。據(jù)報(bào)道，在周三發(fā)布的博客文章中，微軟詳細(xì)介紹了其基于OpenAI技術(shù)的新必應(yīng)聊天工具的局限性，同時(shí)谷歌也已要求員工投入更多時(shí)間手動(dòng)改進(jìn)其Bard系統(tǒng)的答案。
OpenAI還表示，該公司正在加大對(duì)ChatGPT的開發(fā)力度，包括允許每個(gè)用戶進(jìn)行有限的定制，以適應(yīng)他們的品位、風(fēng)格和視圖。
OpenAI在博文中寫道：“我們認(rèn)為，AI應(yīng)該是對(duì)每個(gè)人都有用的工具，因此每個(gè)人都應(yīng)該可以在社會(huì)規(guī)定的限度內(nèi)進(jìn)行定制。這將意味著允許其他人(包括我們自己)可能強(qiáng)烈反對(duì)的系統(tǒng)輸出。將定制發(fā)揮到極致可能會(huì)導(dǎo)致惡意使用我們的技術(shù)，或者催生出盲目放大人們現(xiàn)有信念的‘馬屁精式AI’，在這方面取得適當(dāng)?shù)钠胶鈱⑹蔷叽蟮奶魬?zhàn)。因此，系統(tǒng)行為總是需要限制�！�
