時時頭條
  • 娛樂
  • 體育
  • 財經
  • 科技
  • 旅遊
  • 軍事
  • 育兒
  • 時尚
  • 遊戲
  • 歷史
  1. 首頁
  2. 科技

“假拜登來電”後,美國擬宣佈:用AI生成語音撥打機器人電話非法

2024-02-03 09:51:23

·美國聯邦通訊委員會將在未來幾周內表決,是否將使用AI生成的語音撥打機器人電話(robocall)定為非法。委員們將在未來幾周內對該提案進行表決。

·專家指出,語音克隆公司研發App時,對於跟名人有關、誤導性較強、傳播風險較大的影片,可以在傳播過程中加強顯性標識的設計,提醒受眾。

當地時間1月21日,新罕布什爾州一些選民稱接到了“拜登總統”的自動留言電話,告訴接聽者不要在該州初選中投票。

“人工智慧模模擬人生成以假亂真的語音、圖片和影片來欺騙消費者,這正在製造混亂。無論電話中是你喜歡支援的名人或政客,也不論電話中的親屬與你關係如何,當他們來電求助時,我們都有可能成為這些AI偽造電話的目標。”

針對近期美國發生多起AI深度造假事件,當地時間2月1日,美國聯邦通訊委員會(FCC)主席傑西卡·羅森沃塞爾(Jessica Rosenworcel)提議,將使用AI生成的語音撥打機器人電話(robocall)定為非法。

此前,AI冒充美國總統拜登給選民打電話、知名歌手泰勒·斯威夫特AI虛假“不雅照”在網上瘋傳,恰逢美國大選年,多起AI深度造假事件引發人們對人工智慧造假的擔憂。

未來幾周內對提案進行表決

機器人電話(robocall)也被稱為預錄電話,使用計算機控制的自動撥號器來發出預先錄製好的資訊,就像機器人一樣,一般以推銷或傳播某種資訊為目的,頻繁騷擾手機使用者。

美國聯邦通訊委員會表示,機器人電話中用人工智慧生成的聲音“在過去幾年中不斷升級”,並且“有可能透過模仿名人、政治候選人和親密家庭成員的聲音來製造錯誤資訊迷惑消費者”。

羅森沃塞爾表示,她提出的宣告式裁決(Declaratory Ruling)將“根據現行法律認定這種新興技術是非法的,這將為我們在全國各州總檢察長辦公室的合作伙伴提供新的工具,他們可以利用這些工具打擊騙局,保護消費者。”報道稱,委員們將在未來幾周內對該提案進行表決。

此次提議是在美國新罕布什爾州居民接到冒充總統拜登的電話後不久提出的。當地時間1月21日,該州一些選民稱接到了“拜登總統”的自動留言電話,告訴接聽者不要在新罕布什爾州初選中投票。

白宮新聞秘書卡琳·讓-皮埃爾(Karine Jean-Pierre)22日回應稱,“那通電話確實是假的,(拜登)總統沒有錄音。我可以證實這一點。”新罕布什爾州總檢察長辦公室表示,正在對這些“欺騙性”資訊展開調查。拜登的競選經理朱莉·查韋斯·羅德里格斯(Julie Chavez Rodriguez)隨即在一份宣告中表示,已與新罕布什爾州總檢察長溝通,競選團隊正在積極討論。

美國人工智慧技術干預選舉的行為早有先例,不僅僅是偽造語音。2023年芝加哥市長選舉前夕,“芝加哥湖畔新聞”(Chicago Lakefront News)釋出影片抨擊溫和派民主黨人保羅·瓦拉斯(Paul Vallas)對槍擊事件視而不見。雖然瓦拉斯競選團隊譴責該影片由AI生成,但影片已經在網際網路上廣泛流傳。瓦拉斯最終競選失敗可能也與該影片給他帶來的負面影響有關。

“假拜登”電話背後語音克隆公司已確定

語音克隆初創公司ElevenLabs證實,偽造的拜登語音是由該公司提供的工具生成。目前,ElevenLabs已暫停利用深度造假技術釋出資訊的賬戶。

根據ElevenLabs官網介紹,這家語音人工智慧研究公司能夠以29種語言生成語音。該公司的安全政策規定,在克隆某人的聲音之前最好獲得其許可,但未經許可的克隆可以用於非商業目的,包括“有助於公共辯論的政治言論”。此外,該公司警告,不得將克隆聲音用於欺詐、歧視、發表仇恨言論或任何觸犯法律的線上濫用。

據《連線》雜誌1月26日報道,ElevenLabs在新一輪融資中籌集了8000萬美元,目前估值已超過11億美元,是名副其實的“獨角獸”公司。公司投資者包括知名投資人安德森·霍洛維茨(Andreessen Horowitz),GitHub前執行長納特·弗裡德曼(Nat Friedman)和AI實驗室DeepMind的聯合創始人穆斯塔法·蘇萊曼(Mustafa Suleyman)等知名人士。

AI深度造假技術為何防不勝防?

深度造假(Deepfake)是英文“Deep learning”(深度學習)和“Fake”(偽造)的混成詞,指利用深度學習技術生成合成影象、音訊或影片的技術。由於公眾人物的影片、音訊、圖片資料的公開性,為AI訓練提供了大量素材,因此名人經常成為AI造假的受害者。

網際網路安全組織“網路尖刀”的一位匿名技術專家告訴澎湃科技(www.thepaper.cn),深度造假技術製作的內容在視覺、聽覺上非常逼真,很難單憑肉眼或傳統的技術手段辨別真偽。攻擊者可以利用技術手段隱藏深度造假的痕跡和特徵,使其難以被檢測到。現在網際網路上存在大量圖片和影片資料,這些資料用於訓練深度學習模型,從而也被深度造假技術利用,“可用的資料集越多,模型的質量就越高,深度造假的結果離真人越近。”

在傳播過程中如何加強對此類影片的監管?中國社會科學院大學網際網路法治研究中心執行主任劉曉春在接受澎湃科技採訪時建議,語音克隆公司研發App時,對於跟名人有關、誤導性較強、傳播風險較大的影片,可以在傳播過程中加強顯性標識的設計,明確標明這是一個合成內容,提醒受眾。

劉曉春強調,在顯性標識之外,技術層面上也可以設計隱性標識,這樣在追蹤溯源時,也能從技術層面識別來源或合成的渠道。“如果能夠清楚地標明它是由哪些渠道的技術合成,這樣風險也能控制住。”劉曉春說。

前述“網路尖刀”技術專家稱,深度造假識別技術比人類更敏銳,深入動作、光線、解析度上的破綻,在源頭髮現造假內容,透過識別偽造的特徵和異常模式,可以儘早發現和阻止深度造假內容的傳播。

熱門資訊
  • 柳葉刀:世界首例!iPSC幹細胞治療恢復人類視力 | 2024-11-10 00:44:01
  • 產業觀察:“三角聯盟”協作加速,一切為了HBM4 | 2024-11-10 00:48:18
  • 預感“臺灣有事”?馬斯克打響“棄臺”第一槍 | 2024-11-10 00:54:39
  • 馬斯克要求臺供應商產線外移 | 2024-11-10 00:56:39
  • 國航C919國產大飛機身披五星紅旗首次亮相澳門 | 2024-11-10 01:03:26
  • 高通錢堃:5G、AI等技術有更大潛力為可持續發展做出貢獻 | 2024-11-10 01:25:10
  • 廣東移動殺瘋了:百天之內新增三位副總! | 2024-11-10 01:45:52
  • 科學家感到很頭疼:當中微子遇到量子糾纏,“靈魂”能永不消亡? | 2024-11-10 01:45:55
  • Science丨餘宏傑團隊破解流感的全球傳播密碼——新冠大流行重塑全球季節性流感傳播 | 2024-11-10 02:18:43
  • 全球首次,氣尖引擎成功完成飛行測試 | 2024-11-10 02:44:35
  • Cancer Cell:鄒偉平團隊揭示衣康酸轉運蛋白SLC13A3賦予腫瘤鐵死亡抗性,削弱腫瘤免疫治療效果 | 2024-11-10 03:00:40
  • M4 Mac mini 固態硬碟已被玩家成功改裝擴容到2TB | 2024-11-10 03:05:56
  • 英特爾拒絕因使用液金導致酷睿i9-14900K CPU出現不穩定問題的售後申請 | 2024-11-10 03:06:00
  • AMD在2024年第三季度佔據28.7%的桌上型電腦市場份額 英特爾保持領先 | 2024-11-10 03:15:34
  • M4 Mac mini拆解展示全新螺旋式散熱片 Wi-Fi和藍芽晶片的獨立電路板等 | 2024-11-10 03:15:36
  • 軟殼褲竟隱藏「發熱護膝」,國人僅靠2mm宇航材料,硬抗-196℃液氮噴射 | 2024-11-10 03:18:13
  • 官宣重磅腫瘤研發合作和進展, 賽諾菲“大免疫版圖”不斷擴張 | 2024-11-10 03:41:12
  • SpaceX向NASA提議“火星鏈”,火星版的星鏈 | 2024-11-10 04:21:15
  • 自主研製!我國科研團隊在這一領域取得突破 | 2024-11-10 05:19:25
  • 人才賦能“工業母機之眼” | 2024-11-10 05:25:49
  • 項立剛懟何祚庥:政工院士就知道整人,沒說獲得諾獎是恥辱! | 2024-11-10 05:47:37
  • 著名通訊專家項立剛:帶領何祚庥老師學習和理解產品! | 2024-11-10 05:48:36
  • 神舟十八號乘組回家,居然有人不知空間站用處,與普通人無關? | 2024-11-10 05:52:47
  • 34.6公斤!神舟十八號帶回“太空特產”,地外生命將無處可藏? | 2024-11-10 06:21:30
  • 科學家為核聚變反應堆尋找改變遊戲規則的材料 | 2024-11-10 06:22:14
  • 宇航員返回地球后緊急入院?NASA新返回的四名宇航員身體健康成疑 | 2024-11-10 07:00:50
  • 鎧俠宣佈斥資16.75億元研發下一代記憶體 | 2024-11-10 07:16:49
  • 長春光機所取得重要研究進展! | 2024-11-10 07:23:15
  • 無需換卡換號,0 元開通衛星通訊功能! | 2024-11-10 07:28:19
  • 如何儘可能減少分散式系統中的延遲和成本 | 2024-11-10 07:29:27
最近發布
突發!TVB知名女星毫無預警宣佈與未婚夫分手,結束長達八年情 面對被黑,蘭姐強勢迴歸。小菲狀態好轉,發宣告。更多內幕揭曉! 中國男籃決戰日本隊,首發五人曝光,廣東隊大贏家,徐傑第一後衛 孫穎莎奪女單冠軍!採訪謙遜立足拼,劉國樑給中國選手頒獎笑開花 分析 馬威交易取消後的影響:湖人還有什麼選擇?只能等休賽期? 火箭vs猛龍前瞻:範弗裡特有望復出戰舊主,火箭欲終結六連敗 梅西轟動宏都拉斯!當地媒體:這是世紀體育盛事! 登記開啟!金中、29中、13中等校動了! 開年暴擊!南京又一家機構跑路了? TechInsights:AI PC未能提振筆記本市場 2024年僅增長5% 睡覺時突然腿抽筋,就是缺鈣?錯!還有這4個原因,別輕易忽視了 泡泡瑪特又贏麻了!此前被調侃是“境內最大的博彩公司” 再也不用扎手指!5億糖尿病患者有福了 傳《尼爾:機械紀元》續作、新《古墓麗影》今年公佈 有工作經驗的畫素畫師如何寫簡歷? 離譜!Xun被搶3條龍,JDG仍然獲勝!Peyz力挽狂瀾,WBG痛失好局 將耗死在國際空間站?59歲美滯留女宇航員求救:喪失重要身體機能 華為FreeClip耳機玫瑰金開售 開放式聆聽設計 CBA俱樂部杯-山西淘汰北控晉級4強 原帥18分 小紅書上移民的中產:曾經北京七套房, 羨慕海外一張床, 如今卻...... 不可抗力停課2天以上退一半保教費,佛山幼兒園收費新規釋出 紅棉襯醉美,2020番順醉美青餅評測 華為FreeClip耳夾耳機玫瑰金配色開售:1299元 64歲寧波老闆,跨界無數次,給員工發8億,即將擁有第三家IPO? 卡友資訊股東持股情況變動 廣州“城市合夥人”:城市與人才的雙向奔赴 有人說孫穎莎粉絲是飯圈文化的時候 卻有些人用真金白銀愛孫穎莎! 男生剪“短髮”髮型乾淨利落,試試這3款,剪完帥氣提升顏值! 7個臀部訓練最佳動作,打造迷人的蜜桃臀! 偉大的4-2!林詩棟奪冠:新科世界第1誕生、超越王楚欽,狂攬3冠 新疆完美了!新小外強於皮特森+黑根斯,承認補強大外良性競爭! 林詩棟奪男單冠軍!採訪大談不容易太謙遜,單獨拍照露出笑容! 國乒最新戰報!林詩棟第2局11-8,衝3冠王,梁靖崑救2局點仍輸球 替補奇兵!快船大將5記3分助隊贏球 哈登好幫手 爆冷!北控男籃吊打奪冠大熱門球隊,外援決定比賽的走向 官宣離任,胡明軒宣佈重要決定,廣東宏遠遺憾,杜鋒祝福 又一個賈德松!崔康熙看人很準,魯媒:卡約又要錯過中國聯賽了 劉國樑憔悴!黑眼圈很重,擋住蒯曼被提醒,孫穎莎王楚欽被裁判整 林詩棟逆轉梁靖崑奪冠,成就三冠王,綜合實力更加突出 CBA最新外援註冊資訊,遼籃4人,新疆補充新援,廣東男籃放棄萊斯 大滿貫收官獎金排名:林詩棟三冠60萬第1,孫穎莎第2王曼昱10萬第9 臺灣律師分析大S遺產劃分,S媽要錢得看汪小菲臉色,打臉光頭安排 臺媒曝大S家人鬆手,讓出撫養權給汪小菲,希望馬筱梅善待孩子 二線白酒暴雷,狼真的來了! 搭上比亞迪,自動駕駛獨角獸,利潤大增170%! 炸裂!外資吹響“加倉中國”集結號背後:科技格局重塑與資產重估 這波夢幻西遊副本積分兌換真是血虧,四賜福的山賊值得買嗎? 《星戰亡命之徒》高階美工又回到CDPR 開發《巫師4》 《哪吒2》登陸北美,首映禮現好萊塢!有觀眾哭花眼妝:特效超預期,買票靠搶 曝張蘭被封年損失近4億,麻六記絕地自救太壯觀,員工曬張蘭近況

©2024 時時頭條 版權所有

隱私政策 | 服務條款 | 聯繫我們