DOGE đã sử dụng AI cho chính sách nhà ở. Chính phủ sẽ không tiết lộ cách thức.

Các thành viên của cái gọi là Bộ Hiệu quả Chính phủ (DOGE) đang làm việc tại Bộ Phát triển Nhà ở và Đô thị (HUD) đã sử dụng trí tuệ nhân tạo để đưa ra các quyết định chính sách. Hiện tại, cơ quan này dường như đang từ chối các yêu cầu theo Đạo luật Tự do Thông tin (FOIA) về thông tin liên quan đến việc phát triển và sử dụng các công cụ AI, cũng như cách chúng ảnh hưởng đến các quyết định chính sách, theo các tài liệu thu được từ một yêu cầu FOIA của Democracy Forward, một tổ chức pháp lý phi lợi nhuận.

Năm ngoái, WIRED đã đưa tin rằng Christopher Sweet, khi đó là sinh viên năm thứ ba tại Đại học Chicago, đã gia nhập nhóm DOGE tại HUD, cùng với Scott Langmack, người đến DOGE từ một công ty khởi nghiệp công nghệ bất động sản tên là Kukun. Trọng tâm chính của Sweet, theo các nhân viên HUD từng trao đổi với WIRED vào thời điểm đó, là sử dụng trí tuệ nhân tạo để xác định các quy tắc của cơ quan có thể bị bãi bỏ hoặc hủy hợp đồng, như một phần của nỗ lực tương tự trên toàn chính phủ.

Vào thời điểm đó, các nhân viên HUD đã nói với WIRED rằng nhân viên đang được mời tham gia để đưa ra phản hồi về các quy định được AI đánh dấu là cần bãi bỏ. Tuy nhiên, các nhân viên khác lại mô tả nỗ lực này là trùng lặp.

Sweet tốt nghiệp Đại học Chicago vào tháng 6 với bằng kinh tế; Langmack hiện là giám đốc điều hành về AI bãi bỏ quy định tại Văn phòng Quản lý và Ngân sách (OMB), trực thuộc Văn phòng Điều hành của Tổng thống, theo hồ sơ LinkedIn của anh ta.

Hơn 100 tài liệu mà Democracy Forward đã yêu cầu về việc HUD sử dụng AI để ra quyết định đã bị giữ lại. Trong số các lý do HUD đưa ra để không công bố tài liệu có một đặc quyền AI không tồn tại và một đặc quyền truyền thông tổng thống có thật nhưng thường được cho là chỉ áp dụng cho tổng thống và các cố vấn trực tiếp của họ. Một số tài liệu bị giữ lại, có tên được chia sẻ trong FOIA nhưng nội dung vẫn chưa được biết, dường như chỉ ra rằng nhóm DOGE tại HUD đang sử dụng các công cụ AI để giúp đưa ra các quyết định chính sách.

Sweet, Langmack, HUD, OMB và Nhà Trắng đã không phản hồi các yêu cầu bình luận.

Một tài liệu có nhãn "GPT defined Econ Analysis approach 11 10 25.docx", thuộc về Langmack, đã được miễn trừ khỏi FOIA vì nó được dán nhãn là "đầu vào AI thảo luận". Một tài liệu khác có tiêu đề "RegulatoryAnalysisPrompt.pdf", cũng thuộc về Langmack, dường như chỉ ra rằng nhóm DOGE đang xem xét việc tạo ra các lời nhắc để tiến hành phân tích quy định. Một số tài liệu khác bị giữ lại vì là một phần của quy trình thảo luận được dán nhãn là một dạng "phân tích quy định" cho các chương trình HUD khác nhau, mặc dù không rõ liệu AI có được sử dụng trong việc tạo ra chúng hay không.

Tori Noble, luật sư nhân viên tại Tổ chức Biên giới Điện tử, cho biết việc thiếu minh bạch xung quanh cách các công cụ AI có thể được sử dụng trong việc tạo ra hoặc thay đổi chính sách là đặc biệt đáng lo ngại, vì các công cụ này được biết đến là có thể ảo giác, thể hiện sự thiên vị hoặc chỉ đơn giản là sai sót. "Không nhất thiết là chúng ta luôn biết cách các công cụ được sử dụng," cô nói. "Vì vậy, việc có quyền truy cập vào các lời nhắc thực sự là cách tốt nhất để biết các quan chức đang sử dụng các công cụ này cho mục đích gì và những cách sử dụng đó có thể gây hại như thế nào."

Hiện tại không có luật nào ở Mỹ yêu cầu chính phủ tiết lộ liệu AI có được sử dụng trong việc tạo ra các quy tắc, chính sách hoặc quy định hay không.

"Nếu AI đang được sử dụng để đánh giá chính sách như một trong những công cụ trong bộ công cụ, tôi nghĩ ở giai đoạn phát triển và sử dụng AI này, đó là một quy trình tốt để chỉ ra"

ate that,” says Mark Fagan, a lecturer at the Harvard Kennedy School. “In part to try and build confidence in the use of AI in government.”

But Fagan says that he can see a way that AI could be used in a kind of deliberative process that may not necessarily warrant disclosure. “If I am reviewing policy to decide where I want to prune or redesign or appeal or enhance policy, and I go and Google, ‘How has this been done by others?’ I don't disclose that,” says Fagan. “It is part of my embedded process.” Fagan also notes that often it may take several prompts to work through a problem or question, and so “from a technical perspective I think much of it is deliberative.”

Since many of the documents were withheld from Democracy Forward’s request, it’s also difficult to exactly ascertain how AI was being employed.

There are nine different reasons the government can deny a FOIA request, including, for instance, if a document would reveal personal information or trade secrets. Nearly all of the documents from HUD are labeled as withheld due to Exemption 5, which allows agencies to withhold information under what’s known as “deliberative process privilege.” This protects material where federal workers may be workshopping or giving feedback on new or changing policy and regulations.

“If there is a deliberative process, occurring between human beings that work for the agency, where the material is both pre-decisional and leading up to some sort of decision, that might be a justifiable assertion of deliberative process privilege there,” says John Davisson, deputy director of enforcement at the Electronic Privacy Information Center. Davisson says this is meant to encourage “candor” so that government employees can debate policies and give their honest feedback without fear. In many cases, the reason for the exemption is listed as “deliberation of process” or sometimes “attorney-client privilege.”

But in a handful of cases, HUD’s FOIA office denied the request for certain documents, citing “draft of AI prompt” and “deliberative AI input” as reasons.

Documents labeled “Prompt.pdf” and “PROMPT+AB2(alr)+ab.dox” were exempted because they were labeled “deliberation of AI prompt.” Similar exemptions occurred for a number of other documents.

“There is no AI exemption under FOIA,” says Davisson, noting that any deliberation done between a person and an AI chatbot should not qualify for the exemption, because “AI systems, computers are not entitled to candor.”

Another document labeled “DFR Template_Workflow Prompt Directory (3).pdf” was exempted because it involved “deliberation of regulatory changes” and “presidential communications privilege.” This reason, according to Davisson, raises “questions about where the prompts may have come from.”

“It's concerning that the government is shielding records about how it uses AI in policymaking. If the government is going to use AI in formulating policy that affects us all, the public has a right to understand its impact,” says Dan McGrath, senior oversight counsel at Democracy Forward. “Withholding AI input into the policy process as deliberative and privileged raises serious questions. Existing privileges are meant to ensure that public officials share their candid views, not to shield the impact of AI's impact on our government.”