國土安全部親眼目睹了人工智慧的機會和風險。多年後，一名人口販賣受害者被發現使用了一種人工智慧工具，該工具可以想像出 10 歲以上兒童的圖像。然而，調查卻被人工智慧生成的深度偽造圖像所愚弄。
現在，該部門正在成為第一個採用這項技術的聯邦機構，並計劃將生成式人工智慧模型納入廣泛的部門。 我們計劃與 OpenAI、Anthropic 和 Meta 合作，啟動使用聊天機器人和其他工具打擊毒品和人口販運犯罪、培訓移民官員並支持國家緊急管理準備的試點計劃。
急於部署尚未證實的技術是為了跟上生成式人工智慧帶來的變化，生成式人工智慧可以創建超現實的圖像和視訊並模仿人類語音。這是一場激烈競爭的一部分。
「我們不能忽視它，」國土安全部長亞歷杭德羅·馬約卡斯在接受採訪時說。 “如果我們不准備好認識並解決潛在的好處和潛在的危害，那就太晚了。這就是我們迅速採取行動的原因。”
將生成式人工智慧納入政府機構的計劃是 OpenAI 的 ChatGPT 等新技術如何迫使最保守的行業重新評估其開展業務的方式的最新例證。儘管如此，像國土安全部這樣的政府機構可能會在如何使用這項技術方面面臨最嚴格的審查，這種技術有時被發現不可靠和具有歧視性，使得很難惡意地使用這項技術，這引起了一些爭論。
拜登總統在去年年底下令，要求制定人工智慧安全標準並在聯邦政府內實施，聯邦官員正忙於制定一項計畫。
國土安全部擁有 26 萬名員工，是在 9 月 11 日恐怖攻擊後成立的，任務是保護境內的美國人，包括打擊人口販運和毒品販運、保護關鍵基礎設施、應對災難以及確保邊境安全。
作為該計劃的一部分， 該機構將部署 50 名人工智慧專家，研究解決方案，保護國家關鍵基礎設施免受人工智慧攻擊，並打擊利用該技術生產兒童性虐待材料和製造生物武器的行為。我們計劃聘請專家。
在這項耗資 500 萬美元的試點計畫中，該機構將使用 ChatGPT 等人工智慧模型來幫助調查虐待兒童材料、人口販運和毒品販運。該公司還計劃與其他公司合作，梳理基於文字的數據，以找到可以幫助調查人員的模式。例如，尋找駕駛藍色皮卡的嫌疑人的偵探將首次能夠在國土安全部調查中搜尋相同類型的車輛。
國土安全部計劃使用聊天機器人來培訓與冒充難民和尋求庇護者的其他員工和承包商合作的移民官員。 借助人工智慧工具，當局可以透過模擬面試接受更多培訓。該聊天機器人還收集有關全國各地社區的信息，以幫助制定救災計劃。
該部門首席資訊長兼人工智慧主管 Eric Heisen 表示，該部門計劃在今年年底前報告試點計畫的結果。
該機構選擇了 OpenAI、Anthropic 和 Meta 來試驗不同的工具，並計劃在試點計畫中使用雲端供應商微軟、谷歌和亞馬遜。 「我們無法單獨做到這一點，」他說。 “我們需要與私營部門合作，幫助定義生成式人工智慧的負責任使用方式。”
