Công ty viễn thông đồng ý nộp phạt 1 triệu đô la vì đoạn video deepfake của Biden

[djt]

Công ty Atelecom đã đồng ý nộp phạt 1 triệu đô la vì vai trò của mình trong cuộc gọi tự động deepfake giả mạo giọng nói của Tổng thống Joe Biden trước cuộc bầu cử sơ bộ của đảng Dân chủ tại New Hampshire, chính quyền liên bang dự kiến ​​sẽ công bố vào thứ Tư.

Lingo Telecom, một nhà cung cấp dịch vụ thoại đã phân phối các cuộc gọi tự động do trí tuệ nhân tạo tạo ra thông qua các số điện thoại "giả mạo", sẽ phải trả khoản tiền phạt bảy con số và đồng ý với các giao thức giám sát chặt chẽ hơn, trong những gì chính quyền liên bang gọi là hành động thực thi đầu tiên chống lại deepfake độc ​​hại hoặc hành vi mạo danh người khác do AI điều khiển.

"Mỗi người trong chúng ta đều xứng đáng biết rằng giọng nói trên đường dây chính xác là người mà họ tuyên bố", Chủ tịch Ủy ban Truyền thông Liên bang Jessica Rosenworcel cho biết trong một tuyên bố. "Nếu AI đang được sử dụng, điều đó phải được làm rõ với bất kỳ người tiêu dùng, công dân và cử tri nào gặp phải".

Cuộc gọi tự động này sử dụng giọng nói giả mạo do AI tạo ra của Biden, yêu cầu cử tri New Hampshire không bỏ phiếu trong cuộc bầu cử sơ bộ của đảng Dân chủ vào tháng 1.

Như NBC News phát hiện lần đầu, cuộc gọi này được dàn dựng bởi cố vấn chính trị lâu năm Steve Kramer, người khi đó đang làm việc cho một chiến dịch đối thủ, mặc dù Kramer nói rằng ông đã làm như vậy để nâng cao nhận thức về mối nguy hiểm của deepfake. Kramer và người chủ khi đó của ông, Dân biểu Dean Phillips, D-Minn., khẳng định không ai trong chiến dịch chỉ đạo Kramer hoặc thậm chí biết về hành động của ông.

Kramer đang phải đối mặt với khoản tiền phạt 6 triệu đô la từ FCC, cũng như 26 tội danh hình sự về đe dọa cử tri và giả mạo các quan chức ở New Hampshire. Hiện tại, ông đang được tại ngoại.

Ông cũng đang phải đối mặt với một vụ kiện dân sự do Liên đoàn cử tri nữ đệ đơn. Bộ Tư pháp Hoa Kỳ đã ủng hộ vụ kiện vào tháng trước.

Kristen Clarke, người đứng đầu Ban Dân quyền của Bộ Tư pháp, cho biết trong một tuyên bố: "Việc đe dọa cử tri, dù được thực hiện trực tiếp hay thông qua các cuộc gọi tự động deepfake, các chiến dịch thông tin sai lệch trực tuyến hoặc các chiến thuật khác do AI thúc đẩy, có thể trở thành rào cản thực sự đối với những cử tri muốn thể hiện tiếng nói của mình trong nền dân chủ của chúng ta".

Cuộc gọi tự động của Biden là lần đầu tiên sử dụng deepfake trong chính trường quốc gia Hoa Kỳ, vì vậy các nhà chức trách cho biết họ đã hành động nhanh chóng và mạnh mẽ để ngăn chặn các cuộc gọi tự động chính trị, vốn đã trở nên tràn lan ở một số quốc gia khác.

"Bằng cách buộc Lingo Telecom phải chịu trách nhiệm về vai trò của mình trong việc truyền các cuộc gọi tự động giả mạo mang theo các tin nhắn do AI tạo ra, FCC đang gửi đi một thông điệp mạnh mẽ rằng sự can thiệp vào cuộc bầu cử và công nghệ lừa đảo sẽ không được dung thứ", Tổng chưởng lý New Hampshire John Formella cho biết trong một tuyên bố.