Theo trang Wired, chatbot trí tuệ nhân tạo GSAi đang được sử dụng bởi nhân viên của Cơ quan Quản lý Dịch vụ Tổng hợp (GSA).
GSA là cơ quan chịu trách nhiệm quản lý tài sản bất động sản của chính phủ Mỹ, cung cấp các dịch vụ hậu cần, mua sắm và hỗ trợ công nghệ thông tin cho các cơ quan liên bang khác.
GSA cũng đảm nhận việc giám sát các hợp đồng liên bang, đảm bảo hiệu quả chi tiêu ngân sách và triển khai công nghệ mới để tối ưu hóa hoạt động của chính phủ.
Nhân viên GSA đã được Ban Hiệu suất Chính phủ (DOGE) của Elon Musk cung cấp chatbot trí tuệ nhân tạo (AI) tùy chỉnh có tên GSAi để hỗ trợ tự động hóa công việc, theo Wired.
Một bản ghi nhớ nội bộ cho biết GSAi có thể được sử dụng để “soạn thảo email, tạo điểm thảo luận, tóm tắt văn bản, viết mã”.
GSAi cung cấp cho người dùng ba mô hình để lựa chọn, gồm Claude Haiku 3.5 (mặc định), Claude Sonnet 3.5 v2 và Meta Llama 3.2, được thiết kế để “phân tích dữ liệu hợp đồng và mua sắm”, Wired đưa tin.
GSA là một trong nhiều cơ quan bị ảnh hưởng bởi làn sóng cắt giảm nhân sự hàng loạt của chính phủ liên bang và đến nay đã sa thải hơn 1.000 nhân viên, theo nguồn tin của NPR (Đài Phát thanh Công cộng Quốc gia Mỹ). Trong số đó có khoảng 90 người từ bộ phận công nghệ của GSA.
Trong các bản ghi nhớ về GSAi mà Wired thu thập được, nhân viên được yêu cầu không nhập “thông tin không công khai của liên bang, thông tin nhận dạng cá nhân hoặc thông tin chưa phân loại nhưng được kiểm soát”.
Chatbot này được thử nghiệm trong một nhóm nhỏ vào tháng 2 trước khi triển khai cho khoảng 1.500 nhân viên hiện đã có quyền truy cập, với kế hoạch mở rộng hơn trong tương lai.
Nhân viên GSA được DOGE cung cấp chatbot tùy chỉnh có tên GSAi để hỗ trợ tự động hóa công việc - Ảnh: Getty Images
Gần đây, rộ tin DOGE sử dụng ứng dụng AI để định hướng các quyết định cắt giảm chi phí, gây ra những lo ngại về bảo mật, thiên vị và sai sót.
Elon Musk từng cho biết mục tiêu của ông là nhanh chóng cắt giảm ít nhất 1.000 tỉ USD thâm hụt ngân sách Mỹ.
Truyền thông dẫn lời các nguồn tin ẩn danh cho biết DOGE đang sử dụng AI để đẩy nhanh những quyết định cắt giảm chi phí.
David Evan Harris, chuyên gia từng làm cho bộ phận AI có trách nhiệm của Meta Platforms, gọi đây là “ý tưởng tồi tệ”.
Các chuyên gia nhận xét cách tiếp cận này phản ánh tư duy “cắt trước, sửa sau” mà Elon Musk áp dụng cho Twitter (hiện là X) hai năm trước, dẫn đến hàng nghìn nhân viên mất việc, gây ra các sự cố kỹ thuật, kiện tụng và tranh cãi làm xói mòn mạng xã hội.
Tuy nhiên, hậu quả khi giải tán các cơ quan, hệ thống và dịch vụ chính phủ sẽ trầm trọng hơn nhiều so với một hãng công nghệ.
Theo tờ The Washington Post, đầu tháng 2, các thành viên DOGE đã nạp dữ liệu nhạy cảm của Bộ Giáo dục Mỹ vào ứng dụng AI để phân tích chương trình và chi tiêu của bộ.
Một bản tin khác từ NBC News cho biết DOGE cân nhắc dùng AI để phân tích phản hồi công việc của nhân viên liên bang, xác định vị trí nào không còn cần thiết.
Tháng 2, Wired đưa tin DOGE đã chỉnh sửa phần mềm AutoRIF của Bộ Quốc phòng Mỹ để tự động xếp hạng nhân sự, phục vụ cho mục đích sa thải.
Tuần trước, 21 nhân viên của Cơ quan dịch vụ kỹ thuật số Mỹ (USDS) đã từ chức để phản đối. Họ cáo buộc nhân sự DOGE xử lý dữ liệu nhạy cảm sai cách và phá vỡ các hệ thống quan trọng.
Tuy nhiên, Thư ký Nhà Trắng - Karoline Leavitt khẳng định bất kỳ ai cho rằng biểu tình, kiện tụng hay hành động pháp lý để ngăn cản Tổng thống Trump “chắc hẳn đã không biết gì vài năm qua”.
Trên mạng xã hội X, Elon Musk cũng gọi nhóm người này là “những kẻ bảo thủ” từ chối trở lại văn phòng.
Vấn đề một phần xuất phát từ việc xây dựng ứng dụng AI hiệu quả cần hiểu biết sâu sắc về dữ liệu được dùng để đào tạo, điều mà đội ngũ DOGE chưa có, theo Amanda Renteria, Giám đốc điều hành Code for America. Đây là tổ chức phi lợi nhuận phát triển công cụ số và nâng cao năng lực kỹ thuật cho các chính phủ.
Kết quả mà ứng dụng AI đưa ra có thể vô dụng, hoặc công nghệ thiếu thông tin, ngữ cảnh để quyết định đúng. Nó có thể gặp vấn đề “ảo giác”. Ảo giác là hiện tượng khi AI, đặc biệt là các mô hình ngôn ngữ, tạo ra thông tin sai lệch, không có thật hoặc không có cơ sở thực tế.
Các chuyên gia lo ngại AI có thể lặp lại sự thiên vị thường xuất hiện ở con người. Chẳng hạn, một số công cụ tuyển dụng AI ưu tiên người da trắng, giới tính nam hơn các ứng viên khác.
Nếu AI được dùng để xác định vị trí hay dự án nào bị loại bỏ, đồng nghĩa với một số nhân sự hoặc công việc quan trọng sẽ bị cắt giảm chỉ vì vẻ ngoài hay đối tượng họ phục vụ.
David Evan Harris phân tích ví dụ dùng AI để đánh giá phản hồi từ các nhân viên liên bang: Những nhân viên tài năng nhưng tiếng Anh không phải ngôn ngữ mẹ đẻ có thể bị AI nhận xét là kém hơn những người nói tiếng Anh.
Những lo ngại này không mới nhưng sẽ gây hậu quả trầm trọng hơn nếu phạm sai lầm trong chính phủ. Bản thân Elon Musk thừa nhận DOGE có thể mắc lỗi và đã loại bỏ một số nỗ lực quan trọng, chẳng hạn phòng ngừa bệnh Ebola.
Không rõ AI có liên quan đến việc ra quyết định này không.
Không thể phủ nhận AI giúp tăng hiệu quả làm việc, tổng hợp và phân tích lượng lớn thông tin. Tuy nhiên, nếu không sử dụng thận trọng, AI sẽ đặt dữ liệu nhạy cảm của chính phủ hoặc thông tin cá nhân của nhiều người vào vòng nguy hiểm.
Nếu không có biện pháp bảo vệ đúng đắn và hạn chế người truy cập hệ thống, dữ liệu nạp vào ứng dụng AI có thể bất ngờ xuất hiện trong các phản hồi từ câu hỏi khác và rơi vào tay những người không nên biết.
David Evan Harris đặc biệt lo ngại về cách DOGE xử lý hồ sơ nhân sự, điều mà ông mô tả là nằm trong “những loại tài liệu nhạy cảm nhất trong bất kỳ tổ chức nào”.
Song theo các chuyên gia, có lẽ điều đáng lo nhất là sự thiếu minh bạch xoay quanh việc DOGE sử dụng AI. DOGE đang dùng ứng dụng AI nào, được giám sát ra sao, con người có kiểm tra và thẩm định kết quả không là những câu hỏi còn bỏ ngỏ.
Julia Stoyanovich, Giám đốc Trung tâm AI có trách nhiệm tại Đại học New York, nói rằng để AI hoạt động hiệu quả, người dùng phải rõ ràng về mục tiêu của họ với công nghệ và kiểm tra xem liệu hệ thống có đáp ứng những nhu cầu đó hay không.
"Tôi thực sự tò mò muốn nghe đội ngũ DOGE nói rõ cách họ đo lường hiệu suất và tính đúng đắn của kết quả”, bà Julia Stoyanovich nói.
VietBF@sưu tập
