1月30日訊息,OpenAI週一表示正與常識傳媒(Common Sense Media)合作,旨在幫助青少年安全使用人工智慧。
OpenAI執行長薩姆·奧特曼(Sam Altman)在舊金山的活動上表示:“我們想搞清楚如何能安全負責地向青少年和其他想要學習人工智慧的人廣泛分發這個工具。”
常識傳媒是一家致力於讓孩子們安全使用技術的非營利組織,一直在努力開發人工智慧評級和審查系統,旨在讓父母、孩子和教育工作者更好了解這項技術的風險和好處。常識傳媒想要搞清楚的一些問題包括,人工智慧是否能培養年輕人對學習的興趣,是否尊重兒童權利,是否會使錯誤資訊傳播固化。
OpenAI和常識傳媒合作的目的是為兒童、教育工作者和家長制定人工智慧指南和教育材料,並幫助策劃符合常識傳媒評級和標準的“家庭友好”型大語言模型GPT。
常識傳媒執行長吉姆·斯蒂爾(Jim Steyer)在一份宣告中表示,兩家公司合作開發的材料“目的是教育家庭和教師能安全負責地使用ChatGPT,這樣就可以共同避免這項新興技術帶來的意想不到的後果。”
在週一的活動中,奧特曼簡要介紹了這一合作伙伴關係和如何普及人工智慧,並表示他希望這將“惠及無法接觸到人工智慧的孩子”。他說,OpenAI的使命之一就是“免費提供真正有用的人工智慧”。
去年9月份,慈善機構克雷格·紐馬克慈善基金會(Craig Newmark Philanthropies)宣佈捐贈300萬美元,資助常識傳媒一項人工智慧和教育倡議。基金會創始人克雷格·紐馬克(Craig Newmark)當時表示,他對人工智慧的一些擔憂包括,壞人可能會利用這項技術影響資訊生態系統,引發社會不滿。
OpenAI和常識傳媒沒有具體說明將如何調整大語言模型,來幫助教育工作者或青少年。奧特曼說,為教育定製的大語言模型可以幫助“想要學習科學或生物學的青少年”。
“我認為我們還不清楚如何使用人工智慧,”奧特曼說。他補充說,自己設想過“每個青少年或每個成年人都將擁有個性化人工智慧”的世界。
奧特曼承認,人工智慧生成的影象會引發諸多問題。但他說:“我認為人們比我們想象的要複雜得多,你不會相信所看到的每一張影象。”
他還談到了OpenAI是如何應對不法分子利用人工智慧的潛在方式。
奧特曼說:“我們已經建立起大規模的對應機制。”“這會受到密切關注。”(辰辰)