FCC擬針對AI生成之自動語音電話及簡訊提出新的管制規範
主筆者：林帝辰
因應近期人工智慧（Artificial Intelligence, AI）應用快速發展帶來之影響，各國政府日漸關注伴隨而來的技術風險及濫用危害，例如運用深偽技術（Deepfake）的數位詐騙或是自動語音電話（Robocall）騷擾等。今（2024）年初美國即有政治顧問利用AI深度偽造拜登總統的聲音，對數千名新罕布夏州選民發送假冒的預錄電話，敦促其不要在該州總統初選中投票，試圖影響當地選情[1]。
為強化管制力道、降低AI技術可能對電信服務產生的負面影響，美國聯邦通訊委員會（Federal Communications Commission, FCC）於2024年2月先透過執行命令（Declaratory Ruling）之方式，將運用AI技術的自動語音電話定性為非法行為，納入《電話消費者保護法》（Telephone Consumer Protection Act, TCPA）禁止使用預錄聲音進行未經同意的自動化電話撥號範疇[2]之中，為各州執法單位提供更多打擊電話犯罪的法律工具；接續於2024年8月7日，FCC更進一步針對AI生成的自動語音電話及自動簡訊（Robotext）提出擬議法規制定公告（Notice of Proposed Rulemaking, NPRM），進一步保障消費者免於AI相關之不當侵害，並發布意見諮詢通告（Notice of Inquiry, NOI）以深入瞭解基於AI技術的來電檢測、警示和阻止技術之開發情況，以及對於隱私保障之潛在影響。
此次NPRM主要聚焦於FCC基於TCPA所為限制電話行銷以及使用自動電話撥號系統與人工或預錄語音訊息之權限，並對可能的AI技術濫用提出相應的管制措施。首先，FCC擬將「AI生成通話」（AI-Generated Call）明確定義為「使用任何電腦運算或其他機器學習（包括預測算法和大型語言模型）之技術或工具，用於處理自然語言並生成人工或預錄之語音或文字，以便透過外撥電話與受話方進行通訊」，並明文要求發話者在發送使用AI生成之語音或文字訊息時，應於通話開始時清楚揭露該次通話使用AI技術，明確告知受話方可能會接收到的AI生成內容，且須取得受話方事前明示同意後方能進行人工或預錄語音或自動撥號通話，確保消費者能清楚認知將與AI進行互動並決定是否繼續該通話。
其次，為提高身心障礙人士使用電話服務之可用性，FCC另規劃免除身心障礙人士使用AI技術進行語音通話時相關的TCPA規範。
FCC希望藉由上述擬議規範之修訂，提升AI技術在通訊傳播產業之透明度，進而減輕生成式AI日益嚴重的虛假消息和詐騙問題，並確保其他AI應用所帶來的正面效益。此一規管措施與監理策略值得我國參考，研議相關的法制革新，以有效應對AI時代下所面臨之數位風險。
相關連結：
- FCC, FCC Confirms that TCPA Applies to AI Technologies that Generate Human Voices, https://www.fcc.gov/document/fcc-confirms-tcpa-applies-ai-technologies-generate-human-voices
- FCC, FCC Proposes First AI-Generated Robocall & Robotext Rules, https://www.fcc.gov/document/fcc-proposes-first-ai-generated-robocall-robotext-rules/gomez-statement
- FCC, FCC Settles Spoofed AI-Generated Robocalls Case, https://www.fcc.gov/document/fcc-settles-spoofed-ai-generated-robocalls-case
- The New York Times, Political Consultant Who Orchestrated Fake Biden Robocalls Is Indicted, https://www.nytimes.com/2024/05/23/us/politics/biden-robocalls-steve-kramer-democratic-primary.html
[1]策畫此起假冒欺詐電話的政治顧問目前已被新罕布夏州政府起訴，面臨多達26項刑事指控，且亦被FCC以違反2009年《來電顯示真相法》（Truth in Caller ID Act of 2009）為由罰款600萬美元。對於轉接電話的Lingo Telecom公司，FCC亦因其未能遵循通話身分驗證政策而處以100萬美元的罰款。
[2]除法定例外情形外，TCPA禁止在未經受話方明確同意，向市內電話或行動電話發送自動撥號或使用人工或預錄之語音訊息；此外，預錄語音訊息必須清楚地表明發話方之實體身份與聯繫方式。