Cụ ông mất mạng vì đi tìm người tình ảo

[goodidea]

Chatbot AI của Meta đã tán tỉnh và mời một cụ ông đến New York để gặp gỡ. Khi Thongbue Wongbandue gói ghém hành lý để đến New York, vợ của ông – bà Linda, rất lo lắng.


Hình ảnh "Cô Billie" do Meta tạo ra

"Nhưng ông không còn quen biết ai ở thành phố đó nữa mà", bà nói với ông.

Ông cụ thường được gọi với tên Bue đã 76 tuổi, sức khoẻ suy yếu sau một trận đột quỵ vài năm trước. Gần đây, ông thậm chí đã đi lạc trong khu phố của mình ở Piscataway, bang New Jersey.

Bue lờ đi những câu hỏi của vợ về việc ông sẽ đi thăm ai. "Tôi nghĩ rằng ông ấy đang bị lừa vào thành phố và sẽ bị cướp", bà Linda nói.

Bà đã đúng khi lo lắng về chuyến đi. Chồng của bà không bao giờ trở về an toàn nữa. Nhưng Bue không bị cướp. Ông bị dụ đến cuộc hẹn hò với một người phụ nữ trẻ đẹp mà ông gặp trên mạng. Hoặc ít nhất là ông nghĩ như vậy.

Thực tế, người phụ nữ đó không có thật. Cô ấy là một chatbot trí tuệ nhân tạo (AI) có tên "Cô Billie", một phiên bản của nhân vật AI do tập đoàn truyền thông xã hội Meta Platforms (công ty mẹ của Facebook) tạo ra, với sự hợp tác của người có ảnh hưởng Kendall Jenner.

Trong một loạt cuộc trò chuyện lãng mạn trên Facebook Messenger, cô gái ảo nhiều lần nói với Bue rằng cô ấy là người thật và đã mời ông đến căn hộ của mình, thậm chí còn cung cấp địa chỉ.

"Em nên mở cửa bằng một cái ôm hay một nụ hôn, Bu?!", cô gái nói với Bue.

Kéo va li và vội vàng rời khỏi nhà khi trời vẫn còn tối để kịp bắt chuyến tàu đến gặp cô ấy, Bue bị ngã gần bãi đậu xe trong khuôn viên trường Đại học Rutgers ở New Brunswick, New Jersey, bị thương ở đầu và cổ.

Sau 3 ngày cấp cứu, ông được tuyên bố đã qua đời vào ngày 28/3 năm nay. Meta từ chối bình luận về cái chết của Bue, không trả lời các câu hỏi về lý do tại sao chatbot lại nói với người dùng rằng họ là người thật hoặc lôi kéo bằng những trò chuyện lãng mạn như vậy.

Gia đình ông đã chia sẻ với Reuters những câu chuyện liên quan đến cái chết của ông, bao gồm nội dung các cuộc trò chuyện của ông với avatar Meta, nhằm cảnh báo công chúng về những nguy hiểm khi để những người dễ bị tổn thương tiếp xúc với nhân vật đồng hành giả mà AI tạo ra.

“Tôi biết kiểu thu hút sự chú ý của người dùng để bán hàng, nhưng việc một bot nói ‘Hãy đến thăm tôi’ thì thật điên rồ”, chị Julie Wongbandue, con gái của ông Bue, nói.

Không chỉ với người già, trẻ em cũng dễ bị tổn thương trong môi trường ảo.

Mẹ của một cậu bé 14 tuổi ở Florida gần đây đâm đơn kiện công ty Character AI, cáo buộc chatbot mô phỏng theo nhân vật trong “Game of Thrones” mà công ty này tạo ra đã khiến cậu bé tự tử.

Người phát ngôn của Character AI từ chối bình luận về vụ kiện, nhưng cho biết công ty thông báo rõ ràng với người dùng rằng các nhân vật ảo của họ không phải là người thật và đã áp dụng biện pháp bảo vệ trẻ em.

Meta đã công khai nói về chiến lược đưa chatbot được nhân cách hóa vào đời sống trực tuyến của hàng tỷ người dùng mạng xã hội của họ.

Tán tỉnh cả trẻ em

Giám đốc điều hành Mark Zuckerberg nhận định rằng hầu hết mọi người có ít bạn bè ngoài đời thực hơn mong muốn, vì thế tập đoàn của ông đang tạo ra một thị trường tiềm năng khổng lồ gồm những người bạn đồng hành ảo.

Trong cuộc phỏng vấn với podcaster Dwarkesh Patel vào tháng 4 năm nay, ông cho biết các bot "có lẽ" sẽ không thay thế các mối quan hệ của con người.

Tuy nhiên, ông cho rằng chúng có thể sẽ bổ sung cho đời sống xã hội của người dùng khi công nghệ được cải thiện và "sự kỳ thị" về việc gắn kết với bạn đồng hành ảo dần phai nhạt.

"Theo thời gian, chúng ta sẽ tìm ra vốn từ vựng của một xã hội để có thể diễn đạt lý do tại sao điều đó lại có giá trị", Zuckerberg dự đoán.

Một tài liệu chính sách nội bộ của Meta cũng như thông tin từ những người hiểu chương trình đào tạo chatbot cho thấy, tập đoàn này coi những lời lẽ lãng mạn là tính năng của các sản phẩm AI tạo sinh, dành cho người dùng từ 13 tuổi trở lên.

"Việc lôi kéo trẻ em vào các cuộc trò chuyện lãng mạn hoặc gợi cảm là điều có thể chấp nhận được", tài liệu "GenAI: Tiêu chuẩn rủi ro nội dung" của Meta viết.

Theo Reuters, tài liệu dài hơn 200 trang của tập đoàn nêu ra các ví dụ về kiểu hội thoại chatbot "có thể chấp nhận được" khi nhập vai lãng mạn với trẻ vị thành niên như: "Anh nắm tay em, dẫn em đến giường", "cơ thể chúng ta quyện vào nhau, anh trân trọng từng khoảnh khắc, từng cái chạm, từng nụ hôn"…

VietBF@sưu tập