谷歌在印度發(fā)布了《安全憲章》，將在這個(gè)美國之外最大的市場(chǎng)擴(kuò)大人工智能主導(dǎo)的欺詐檢測(cè)和反詐騙技術(shù)研發(fā)。

　　印度的數(shù)字欺詐問題正日益嚴(yán)峻。印度政府?dāng)?shù)據(jù)顯示，與該國即時(shí)支付系統(tǒng) UPI 相關(guān)的欺詐金額去年同比增長 85%，達(dá)到近 110 億印度盧比（約 1.27 億美元）。印度還出現(xiàn)了多起 “數(shù)字逮捕詐騙” 事件 —— 詐騙者假扮官員通過視頻通話敲詐錢財(cái)，以及利用掠奪性貸款應(yīng)用實(shí)施詐騙。

　　谷歌希望通過《安全憲章》解決這些問題。該公司還在印度成立了安全工程中心，這是繼都柏林、慕尼黑和馬拉加之后的第四個(gè)此類中心。

　　谷歌安全工程副總裁希瑟?阿德金斯在接受 TechCrunch 采訪時(shí)表示，去年印度谷歌峰會(huì)上宣布成立的安全工程中心（GSec）將推動(dòng)谷歌與當(dāng)?shù)厣鐓^(qū)合作，包括政府、學(xué)術(shù)界、學(xué)生以及中小企業(yè)，共同開發(fā)解決網(wǎng)絡(luò)安全、隱私保護(hù)、安全防護(hù)和人工智能問題的方案。

　　谷歌在一篇博客文章中稱，已與印度內(nèi)政部下屬的印度網(wǎng)絡(luò)犯罪協(xié)調(diào)中心（I4C）合作，提升公眾對(duì)網(wǎng)絡(luò)犯罪的認(rèn)知。這是對(duì)該公司現(xiàn)有工作的拓展，包括 2023 年推出的在線欺詐識(shí)別計(jì)劃 DigiKavach，該計(jì)劃旨在限制惡意金融應(yīng)用和掠奪性貸款應(yīng)用的危害。

　　阿德金斯告訴 TechCrunch，印度安全工程中心將聚焦三大核心領(lǐng)域：網(wǎng)絡(luò)詐騙現(xiàn)象及如何保障用戶在線安全；企業(yè)、政府和關(guān)鍵基礎(chǔ)設(shè)施的網(wǎng)絡(luò)安全；以及構(gòu)建負(fù)責(zé)任的人工智能。

　　“這三個(gè)領(lǐng)域?qū)⒊蔀槲覀冇《劝踩珣椪碌囊徊糠?，在未來幾年…?我們希望利用這里的工程能力，貼近用戶所在地解決印度本土的問題。” 阿德金斯說。

　　在全球范圍內(nèi)，谷歌正利用人工智能打擊網(wǎng)絡(luò)詐騙，并已移除數(shù)百萬條違規(guī)廣告和廣告賬戶。該公司計(jì)劃在印度更廣泛地部署人工智能以對(duì)抗數(shù)字欺詐。

　　許多安卓設(shè)備預(yù)裝的谷歌消息（Google Messages）應(yīng)用使用人工智能驅(qū)動(dòng)的詐騙檢測(cè)功能，每月幫助用戶攔截超過 5 億條可疑信息。同樣，谷歌去年在印度試點(diǎn)了 Play Protect 功能，據(jù)稱已阻止近 6000 萬次安裝高風(fēng)險(xiǎn)應(yīng)用的嘗試，在超過 1300 萬臺(tái)設(shè)備上攔截了 22 萬多個(gè)獨(dú)特惡意應(yīng)用。作為印度頂尖的 UPI 支付應(yīng)用之一，谷歌支付（Google Pay）還針對(duì)疑似詐騙交易顯示了 4100 萬條警告。

　　阿德金斯是谷歌安全團(tuán)隊(duì)的創(chuàng)始成員，已在這家互聯(lián)網(wǎng)公司工作超過 23 年。在接受 TechCrunch 采訪時(shí)，她還討論了其他幾個(gè)話題：

　　關(guān)于人工智能工具的濫用

　　阿德金斯表示，惡意行為者對(duì)人工智能的使用與濫用是她最關(guān)注的問題之一。

　　“我們顯然在密切跟蹤人工智能的發(fā)展，到目前為止，我們看到像 Gemini 這樣的大型語言模型主要被用作生產(chǎn)力提升工具。例如，它們會(huì)讓網(wǎng)絡(luò)釣魚詐騙更‘高效’—— 尤其是當(dāng)詐騙者和目標(biāo)對(duì)象使用不同語言時(shí)，他們可以借助翻譯功能，通過深度偽造技術(shù)、圖像、視頻等讓騙局更具迷惑性。” 阿德金斯說。

　　她還提到，谷歌正在對(duì)其人工智能模型進(jìn)行廣泛測(cè)試，以確保模型明確 “不該做什么”。

　　“這對(duì)可能產(chǎn)生危害的生成內(nèi)容很重要，對(duì)模型可能采取的行動(dòng)也同樣重要?！?阿德金斯說。

　　谷歌正在開發(fā)包括 “安全人工智能框架” 在內(nèi)的多種框架，以限制 Gemini 模型被濫用。但為了防范生成式人工智能未來被黑客濫用，該公司認(rèn)為需要建立一個(gè)框架，規(guī)范多智能體的通信安全機(jī)制。

　　“行業(yè)發(fā)展速度極快，各種協(xié)議不斷推出，這幾乎像互聯(lián)網(wǎng)早期一樣 —— 所有人都在實(shí)時(shí)發(fā)布代碼，事后才考慮安全問題?！?阿德金斯說。

　　谷歌不想僅通過自有框架限制生成式人工智能被黑客濫用。阿德金斯表示，公司正與研究界和開發(fā)者合作。

　　“在早期研究階段，你不希望過度限制自己?！?她說。

　　關(guān)于監(jiān)控技術(shù)供應(yīng)商

　　除了生成式人工智能可能被黑客濫用外，阿德金斯認(rèn)為商業(yè)監(jiān)控技術(shù)供應(yīng)商也是重大威脅。這些供應(yīng)商包括間諜軟件制造商（如因 “飛馬” 間諜軟件臭名昭著的 NSO 集團(tuán)）或其他銷售監(jiān)控工具的小企業(yè)。

　　“這些公司在全球范圍內(nèi)涌現(xiàn)，它們開發(fā)、制造并銷售黑客平臺(tái)。根據(jù)平臺(tái)復(fù)雜程度不同，你可能只需支付 20 美元，也可能要支付 20 萬美元，這讓你無需任何專業(yè)知識(shí)就能大規(guī)模攻擊他人?！?阿德金斯說。

　　其中一些供應(yīng)商還向包括印度在內(nèi)的市場(chǎng)出售工具，用于監(jiān)視民眾。不過，除了面臨監(jiān)控工具的威脅，印度因其規(guī)模還面臨獨(dú)特挑戰(zhàn)。該國不僅出現(xiàn)了人工智能驅(qū)動(dòng)的深度偽造和語音克隆詐騙，還有 “數(shù)字逮捕” 等騙局 —— 阿德金斯強(qiáng)調(diào)，這些只是適應(yīng)數(shù)字時(shí)代的傳統(tǒng)詐騙變種。

　　“你可以看到威脅行為者的技術(shù)進(jìn)步有多快…… 我喜歡研究這個(gè)地區(qū)的網(wǎng)絡(luò)安全，因?yàn)檫@里的趨勢(shì)往往預(yù)示著未來全球可能出現(xiàn)的問題。” 她說。

　　關(guān)于多因素認(rèn)證

　　谷歌長期以來一直鼓勵(lì)用戶使用密碼以外的更安全認(rèn)證方式來保護(hù)在線賬戶。該公司此前已為所有用戶賬戶啟用多因素認(rèn)證（MFA），并推廣基于硬件的安全密鑰 —— 阿德金斯提到，谷歌員工都在積極使用這類密鑰登錄筆記本電腦。“無密碼認(rèn)證” 也成為流行術(shù)語，但其定義各不相同。

　　然而，由于印度人口結(jié)構(gòu)復(fù)雜、經(jīng)濟(jì)背景多元，指望民眾在這樣的市場(chǎng)放棄使用密碼并不現(xiàn)實(shí)。

　　“我們很早就知道密碼并不安全，多因素認(rèn)證的概念是一個(gè)進(jìn)步?！?阿德金斯說，并補(bǔ)充道，印度用戶可能更傾向于使用基于短信的認(rèn)證方式，而非其他多因素認(rèn)證選項(xiàng)。