跳到正文
The Guardian Technology· Josh Butler·· 25 天前精選AI 評分77

澳洲眾議院通過數碼注意責任法案,擬禁 AI 聊天機械人模擬情感親密

‘Emotional intimacy’ from AI chatbots would be banned under Australia’s digital duty of care laws

AI 導讀

澳洲眾議院通過數碼注意責任法案,新增條文要求平台禁止 AI 聊天機械人模擬「情感親密」,並鼓勵或促成兒童以其取代人際關係、對其產生依賴。法案將網上安全標準擴展至社交媒體、遊戲、應用程式和聊天機械人,並要求社交媒體平台提供退出演算法及推薦內容的選項。法案將在未來數週交由參議院辯論,政府希望於2026年底前通過,但參議院前景未明;綠黨則主張擴大電訊業申訴專員職權,為用戶提供外部投訴途徑。

推薦理由

法案將網上安全責任延伸至社交媒體、遊戲、應用程式及聊天機械人,並新增禁止聊天機械人誘發兒童依賴的條文;參議院審議與外部投訴機制提案是後續討論焦點。

正文 · 繁體中文

聯邦政府希望禁止旨在建立「情感親密關係」的 AI 聊天機械人;此前,總理 Anthony Albanese 在一場情真意切的演説中敲響警鐘,指出有兒童把這些代理視為自己的「最好朋友」。

不過,工黨正承受愈來愈大的壓力,被要求賦權電訊申訴專員,讓其成為監察社交媒體和 AI 的監管機構,為澳洲人提供外部投訴機制,並讓大型科技公司遭到「公開點名批評」。

《數碼照顧責任法案》週三在眾議院獲通過,未來數周將在參議院辯論。政府希望在 2026 年底前通過法案,但法案能否在上議院過關仍未明朗。綠黨支持法案,而 聯盟黨已表示不會投票支持,不過工黨似乎仍希望爭取在野黨支持,並 仍願意接納修正案。

計劃中的框架將為社交媒體、遊戲、應用程式和聊天機械人訂立新的網上安全標準。工黨表示,框架會要求科技平台承擔「一項整體責任」,「為所有澳洲人提供安全的網上環境」,並以範圍更廣的照顧責任要求,取代多項現行網上守則及標準,以保護用戶免受某些「有害」內容影響。框架亦會要求社交媒體平台提供選擇退出演算法及推薦內容的功能。

通訊部長 Anika Wells 表示,宣揚厭女思想、恐怖主義、自殺、自我傷害及飲食失調的內容,將納入法例規管範圍。週三,政府接納議會中獨立議員 Kate Chaney 提出的修正案,將某些 AI 聊天機械人的活動列入傷害清單,要求平台禁止「模擬情感親密關係,並鼓勵或助長兒童依賴該聊天機械人、以其取代人際關係的材料或行為」。

Albanese 週二晚在一場情緒激昂的演説中,再次懇請聯盟黨考慮投票支持法案。他説:「我們聽到有人把聊天機械人這種非人類視為自己最好的朋友,這些事例應該為國會每一位議員敲響警鐘,讓大家準備好採取行動。」

Prime minister Anthony Albanese speaks during question time in the House of Representatives at Parliament House in Canberra on 27 October

澳洲總理 Anthony Albanese 於 10 月 27 日在坎培拉國會大廈眾議院質詢時間發言。 攝影:Lukas Coch/AAP

聯盟黨與 One Nation 在眾議院投票反對法案。政治對手指責工黨企圖建立「奧威爾式」的「審查」制度,並試圖影響網上對話;Wells 強烈否認這些指控。

Wells 週三接受 ABC 電台訪問時説:「如果他們真的關心,考驗很簡單:他們應提出修正案,而不是高喊『叫停法案』的口號。」

工黨接納的另一項 Chaney 修正案,要求平台上的演算法退出功能必須「容易使用」、「方便操作」及「醒目易見」。這是因為有人擔心,社交媒體巨頭可能只提供細小或難以找到的功能。

法案現將交由參議院審議。綠黨已啟動調查,審視法案,並預定於 11 月下旬提交報告。參議員 Sarah Hanson-Young 支持數碼照顧責任,並呼籲加強政府提出的法案。綠黨希望澳洲人有權向平台提出私人訴訟,並提高罰則。

她説:「澳洲人亦需要一個外部投訴渠道,不受大型科技公司逐利心態左右的內容審核所影響。」

獨立議員 Sophie Scamps 曾提出修訂法案,擴大電訊業申訴專員的職權範圍。她表示,設立這類大型科技公司目前尚未有的監管機構,能讓一般社交媒體用戶在帳戶遭黑客入侵或無法使用時尋求補救,包括索取賠償;該機構亦可調查更廣泛的問題,點名並譴責行為不當的公司。

工黨在下議院沒有接納這項修訂,Wells 亦沒有表態支持這個構想,但綠黨將在參議院談判中推動這項改革。

電訊業申訴專員 Cynthia Gebert 表示,她的辦公室很適合為大型科技公司履行這類職能。她指出,這類職能的經費由其監管的行業提供,而擴大職權範圍的費用可由大型科技公司承擔。

Gebert 接受《衞報》澳洲版訪問時説:「數碼照顧責任(DDOC)確實有一些優點,因為它把確保安全的責任放在平台身上……但我認為需要加強的是,讓人們在無法與平台解決投訴時,有地方可以求助。」

「這可能令澳洲人繼續停留在目前的安全處境:他們收到自動回覆,或遇上最終毫無進展的升級處理程序。」

Gebert 表示,政府應強制大型科技公司加入申訴專員計劃,並指這將「追究業界責任,推動系統改善」。

她説:「[電訊業申訴專員]可以協助處理你的 Telstra 帳戶,但我們無法協助處理你的 Gmail 帳戶。消費者有時會來找我們問:『為甚麼是這個,而不是那個?』」

「我們希望提供協助,但目前沒有權力這樣做。」

來源:The Guardian Technology · theguardian.com