時時頭條
  • 娛樂
  • 體育
  • 財經
  • 科技
  • 旅遊
  • 軍事
  • 育兒
  • 時尚
  • 遊戲
  • 歷史
  1. 首頁
  2. 科技

“假拜登來電”後,美國擬宣佈:用AI生成語音撥打機器人電話非法

2024-02-03 09:51:23

·美國聯邦通訊委員會將在未來幾周內表決,是否將使用AI生成的語音撥打機器人電話(robocall)定為非法。委員們將在未來幾周內對該提案進行表決。

·專家指出,語音克隆公司研發App時,對於跟名人有關、誤導性較強、傳播風險較大的影片,可以在傳播過程中加強顯性標識的設計,提醒受眾。

當地時間1月21日,新罕布什爾州一些選民稱接到了“拜登總統”的自動留言電話,告訴接聽者不要在該州初選中投票。

“人工智慧模模擬人生成以假亂真的語音、圖片和影片來欺騙消費者,這正在製造混亂。無論電話中是你喜歡支援的名人或政客,也不論電話中的親屬與你關係如何,當他們來電求助時,我們都有可能成為這些AI偽造電話的目標。”

針對近期美國發生多起AI深度造假事件,當地時間2月1日,美國聯邦通訊委員會(FCC)主席傑西卡·羅森沃塞爾(Jessica Rosenworcel)提議,將使用AI生成的語音撥打機器人電話(robocall)定為非法。

此前,AI冒充美國總統拜登給選民打電話、知名歌手泰勒·斯威夫特AI虛假“不雅照”在網上瘋傳,恰逢美國大選年,多起AI深度造假事件引發人們對人工智慧造假的擔憂。

未來幾周內對提案進行表決

機器人電話(robocall)也被稱為預錄電話,使用計算機控制的自動撥號器來發出預先錄製好的資訊,就像機器人一樣,一般以推銷或傳播某種資訊為目的,頻繁騷擾手機使用者。

美國聯邦通訊委員會表示,機器人電話中用人工智慧生成的聲音“在過去幾年中不斷升級”,並且“有可能透過模仿名人、政治候選人和親密家庭成員的聲音來製造錯誤資訊迷惑消費者”。

羅森沃塞爾表示,她提出的宣告式裁決(Declaratory Ruling)將“根據現行法律認定這種新興技術是非法的,這將為我們在全國各州總檢察長辦公室的合作伙伴提供新的工具,他們可以利用這些工具打擊騙局,保護消費者。”報道稱,委員們將在未來幾周內對該提案進行表決。

此次提議是在美國新罕布什爾州居民接到冒充總統拜登的電話後不久提出的。當地時間1月21日,該州一些選民稱接到了“拜登總統”的自動留言電話,告訴接聽者不要在新罕布什爾州初選中投票。

白宮新聞秘書卡琳·讓-皮埃爾(Karine Jean-Pierre)22日回應稱,“那通電話確實是假的,(拜登)總統沒有錄音。我可以證實這一點。”新罕布什爾州總檢察長辦公室表示,正在對這些“欺騙性”資訊展開調查。拜登的競選經理朱莉·查韋斯·羅德里格斯(Julie Chavez Rodriguez)隨即在一份宣告中表示,已與新罕布什爾州總檢察長溝通,競選團隊正在積極討論。

美國人工智慧技術干預選舉的行為早有先例,不僅僅是偽造語音。2023年芝加哥市長選舉前夕,“芝加哥湖畔新聞”(Chicago Lakefront News)釋出影片抨擊溫和派民主黨人保羅·瓦拉斯(Paul Vallas)對槍擊事件視而不見。雖然瓦拉斯競選團隊譴責該影片由AI生成,但影片已經在網際網路上廣泛流傳。瓦拉斯最終競選失敗可能也與該影片給他帶來的負面影響有關。

“假拜登”電話背後語音克隆公司已確定

語音克隆初創公司ElevenLabs證實,偽造的拜登語音是由該公司提供的工具生成。目前,ElevenLabs已暫停利用深度造假技術釋出資訊的賬戶。

根據ElevenLabs官網介紹,這家語音人工智慧研究公司能夠以29種語言生成語音。該公司的安全政策規定,在克隆某人的聲音之前最好獲得其許可,但未經許可的克隆可以用於非商業目的,包括“有助於公共辯論的政治言論”。此外,該公司警告,不得將克隆聲音用於欺詐、歧視、發表仇恨言論或任何觸犯法律的線上濫用。

據《連線》雜誌1月26日報道,ElevenLabs在新一輪融資中籌集了8000萬美元,目前估值已超過11億美元,是名副其實的“獨角獸”公司。公司投資者包括知名投資人安德森·霍洛維茨(Andreessen Horowitz),GitHub前執行長納特·弗裡德曼(Nat Friedman)和AI實驗室DeepMind的聯合創始人穆斯塔法·蘇萊曼(Mustafa Suleyman)等知名人士。

AI深度造假技術為何防不勝防?

深度造假(Deepfake)是英文“Deep learning”(深度學習)和“Fake”(偽造)的混成詞,指利用深度學習技術生成合成影象、音訊或影片的技術。由於公眾人物的影片、音訊、圖片資料的公開性,為AI訓練提供了大量素材,因此名人經常成為AI造假的受害者。

網際網路安全組織“網路尖刀”的一位匿名技術專家告訴澎湃科技(www.thepaper.cn),深度造假技術製作的內容在視覺、聽覺上非常逼真,很難單憑肉眼或傳統的技術手段辨別真偽。攻擊者可以利用技術手段隱藏深度造假的痕跡和特徵,使其難以被檢測到。現在網際網路上存在大量圖片和影片資料,這些資料用於訓練深度學習模型,從而也被深度造假技術利用,“可用的資料集越多,模型的質量就越高,深度造假的結果離真人越近。”

在傳播過程中如何加強對此類影片的監管?中國社會科學院大學網際網路法治研究中心執行主任劉曉春在接受澎湃科技採訪時建議,語音克隆公司研發App時,對於跟名人有關、誤導性較強、傳播風險較大的影片,可以在傳播過程中加強顯性標識的設計,明確標明這是一個合成內容,提醒受眾。

劉曉春強調,在顯性標識之外,技術層面上也可以設計隱性標識,這樣在追蹤溯源時,也能從技術層面識別來源或合成的渠道。“如果能夠清楚地標明它是由哪些渠道的技術合成,這樣風險也能控制住。”劉曉春說。

前述“網路尖刀”技術專家稱,深度造假識別技術比人類更敏銳,深入動作、光線、解析度上的破綻,在源頭髮現造假內容,透過識別偽造的特徵和異常模式,可以儘早發現和阻止深度造假內容的傳播。

熱門資訊
  • 小米平板6s Pro海外透過認證 或與小米14 Ultra一同釋出 | 2024-02-16 15:54:50
  • 最新!美髮射跟蹤高超音速武器衛星 | 2024-02-16 16:24:16
  • AMD 顯示卡 Linux 驅動 23.40.2 版本更新發布 | 2024-02-16 16:24:34
  • 20年前,聯通“中中外”模式,艱難解套! | 2024-02-16 16:42:38
  • 傳聞三星華為即將推出三摺疊屏裝置,OV則計劃退出可摺疊裝置市場 | 2024-02-16 16:56:12
  • 蘋果Vision Pro遭遇退貨潮:被批設計笨拙、視覺效果差、價效比低 | 2024-02-16 17:03:45
  • 三星 Galaxy Z Fold6 摺疊屏手機爆料:2億主攝、摺疊厚度 11毫米 | 2024-02-16 17:13:38
  • 中國電信市場詳情:多省公司推龍年營銷活動、網路護航、專案簽約 | 2024-02-16 17:13:42
  • 2000檔價位價效比“神作”,靈龍觸控+1.08億畫素主攝僅售1999 | 2024-02-16 17:17:52
  • 英偉達展示 Eos 超算:配 4608 塊 H100,佔配額 42.8% | 2024-02-16 17:22:47
  • 禮來(LLY.US)將啟動GLP-1R/GIPR/GCGR激動劑頭對頭司美格魯肽III期研究 | 2024-02-16 17:26:11
  • 我國成功研發高純氦氣提取裝置,純度達99.99%!要擺脫卡脖子了? | 2024-02-16 17:26:21
  • 南方手機適應不了東北嚴寒?哈工大教授為您揭秘 | 2024-02-16 17:43:01
  • 與樂視分手後,訊息稱美國電視製造商 Vizio 再被巨頭沃爾瑪看上 | 2024-02-16 17:43:19
  • 蘋果手機這款功能,記得千萬要關閉!幫老爸老媽也關閉!很多人因此被騙! | 2024-02-16 18:06:40
  • TCL Nxtwear S+ AR眼鏡釋出,售價399美元 | 2024-02-16 18:19:05
  • 英國排名墊底,都是美國害的 | 2024-02-16 18:26:05
  • AMD Anti-Lag+抗延遲成作弊被砍:終於要回來了 | 2024-02-16 18:54:01
  • 深度長文:量子世界為何如此詭異?完全顛覆你我的世界觀! | 2024-02-16 19:11:18
  • 在火星上引爆氫彈讓其升溫成宜居星球?還有更好更簡單的方法! | 2024-02-16 19:11:22
  • 爆料:摺疊屏iPhone產品研發進度加快! | 2024-02-16 19:12:11
  • 手機大模型開卷,但劃時代的改變還沒到來 | 2024-02-16 19:59:06
  • 比國內貴1500元!高階市場遠超蘋果、三星,一加國外撈金國內砸錢 | 2024-02-16 19:59:10
  • 別用大米吸水了 蘋果官方公佈進水處理方法 | 2024-02-16 19:59:15
  • 蘋果Vision Pro遭遇退貨潮:四大原因總結,是蘋果不行了嗎? | 2024-02-16 20:50:32
  • iPhone進水怎麼辦?蘋果:千萬別放米袋,細小米粒可能會損壞手機 | 2024-02-16 20:50:35
  • 配置很強但價格或將暴漲,小米14 Ultra渲染圖來了 | 2024-02-16 20:50:38
  • 地外生命是否存在?類地球起源是否合理?且看科學家論道 | 2024-02-16 20:50:44
  • 蘋果被曝大批退貨!發生了什麼? | 2024-02-16 20:56:25
  • 我國捷龍四號火箭規劃中,500 公里太陽同步軌道運載能力 2.5 噸 | 2024-02-16 21:31:20
最近發布
突發!TVB知名女星毫無預警宣佈與未婚夫分手,結束長達八年情 面對被黑,蘭姐強勢迴歸。小菲狀態好轉,發宣告。更多內幕揭曉! 中國男籃決戰日本隊,首發五人曝光,廣東隊大贏家,徐傑第一後衛 孫穎莎奪女單冠軍!採訪謙遜立足拼,劉國樑給中國選手頒獎笑開花 分析 馬威交易取消後的影響:湖人還有什麼選擇?只能等休賽期? 火箭vs猛龍前瞻:範弗裡特有望復出戰舊主,火箭欲終結六連敗 梅西轟動宏都拉斯!當地媒體:這是世紀體育盛事! 登記開啟!金中、29中、13中等校動了! 開年暴擊!南京又一家機構跑路了? TechInsights:AI PC未能提振筆記本市場 2024年僅增長5% 睡覺時突然腿抽筋,就是缺鈣?錯!還有這4個原因,別輕易忽視了 泡泡瑪特又贏麻了!此前被調侃是“境內最大的博彩公司” 再也不用扎手指!5億糖尿病患者有福了 傳《尼爾:機械紀元》續作、新《古墓麗影》今年公佈 有工作經驗的畫素畫師如何寫簡歷? 離譜!Xun被搶3條龍,JDG仍然獲勝!Peyz力挽狂瀾,WBG痛失好局 將耗死在國際空間站?59歲美滯留女宇航員求救:喪失重要身體機能 華為FreeClip耳機玫瑰金開售 開放式聆聽設計 CBA俱樂部杯-山西淘汰北控晉級4強 原帥18分 小紅書上移民的中產:曾經北京七套房, 羨慕海外一張床, 如今卻...... 不可抗力停課2天以上退一半保教費,佛山幼兒園收費新規釋出 紅棉襯醉美,2020番順醉美青餅評測 華為FreeClip耳夾耳機玫瑰金配色開售:1299元 64歲寧波老闆,跨界無數次,給員工發8億,即將擁有第三家IPO? 卡友資訊股東持股情況變動 廣州“城市合夥人”:城市與人才的雙向奔赴 有人說孫穎莎粉絲是飯圈文化的時候 卻有些人用真金白銀愛孫穎莎! 男生剪“短髮”髮型乾淨利落,試試這3款,剪完帥氣提升顏值! 7個臀部訓練最佳動作,打造迷人的蜜桃臀! 偉大的4-2!林詩棟奪冠:新科世界第1誕生、超越王楚欽,狂攬3冠 新疆完美了!新小外強於皮特森+黑根斯,承認補強大外良性競爭! 林詩棟奪男單冠軍!採訪大談不容易太謙遜,單獨拍照露出笑容! 國乒最新戰報!林詩棟第2局11-8,衝3冠王,梁靖崑救2局點仍輸球 替補奇兵!快船大將5記3分助隊贏球 哈登好幫手 爆冷!北控男籃吊打奪冠大熱門球隊,外援決定比賽的走向 官宣離任,胡明軒宣佈重要決定,廣東宏遠遺憾,杜鋒祝福 又一個賈德松!崔康熙看人很準,魯媒:卡約又要錯過中國聯賽了 劉國樑憔悴!黑眼圈很重,擋住蒯曼被提醒,孫穎莎王楚欽被裁判整 林詩棟逆轉梁靖崑奪冠,成就三冠王,綜合實力更加突出 CBA最新外援註冊資訊,遼籃4人,新疆補充新援,廣東男籃放棄萊斯 大滿貫收官獎金排名:林詩棟三冠60萬第1,孫穎莎第2王曼昱10萬第9 臺灣律師分析大S遺產劃分,S媽要錢得看汪小菲臉色,打臉光頭安排 臺媒曝大S家人鬆手,讓出撫養權給汪小菲,希望馬筱梅善待孩子 二線白酒暴雷,狼真的來了! 搭上比亞迪,自動駕駛獨角獸,利潤大增170%! 炸裂!外資吹響“加倉中國”集結號背後:科技格局重塑與資產重估 這波夢幻西遊副本積分兌換真是血虧,四賜福的山賊值得買嗎? 《星戰亡命之徒》高階美工又回到CDPR 開發《巫師4》 《哪吒2》登陸北美,首映禮現好萊塢!有觀眾哭花眼妝:特效超預期,買票靠搶 曝張蘭被封年損失近4億,麻六記絕地自救太壯觀,員工曬張蘭近況

©2024 時時頭條 版權所有

隱私政策 | 服務條款 | 聯繫我們