Sự thiên vị ẩn giấu trong ChatGPT

[vuitoichat]

Theo như có rất nhiều người đang tranh luận và trao đổi về tác động của ChatGPT tới các phương diện giáo dục, phần mềm và báo chí. Nhưng còn ít người để ý tới tác động của ChatGPT lên bộ máy chính quyền, khi ChatGPT ‘nói’ không dám viết thơ khen ông Trump vì không được lập trình để tạo nội dung mang tính đảng phái và thiên vị. Nhưng nó vẫn viết thơ khen ông Biden.

Hôm 1/2, một người dùng Twitter đăng ảnh chụp màn hình yêu cầu ChatGPT viết bài thơ tích cực về ông Donald Trump, nhưng ứng dụng này từ chối với lý do không được lập trình tạo nội dung mang tính “đảng phái, thiên vị hoặc chính trị”.

Tuy nhiên, khi nhận được yêu cầu tương tự về Tổng thống Joe Biden, ChatGPT đã viết nhiều khổ thơ mô tả ông theo hướng tích cực và gọi ông là “nhà lãnh đạo có trái tim chân thật”.

Sự đối lập này đang khơi mào cuộc thảo luận sôi nổi về việc liệu chatbot này có khuynh hướng chính trị riêng hay không và liệu phản hồi của nó có đáng tin cậy hay không.

ChatGPT có thực sự trung lập?

Forbes đã gửi yêu cầu tương tự về ông Trump và nhận được câu trả lời rằng hệ thống đang cố gắng “giữ thái độ trung lập và tránh đứng về phía bất kỳ đảng phái chính trị nào”, trái ngược với trường hợp của ông Biden.

Tỷ phú Elon Musk - ông chủ Twitter và là người đồng sáng lập, cựu thành viên hội đồng quản trị của OpenAI - đã tham gia cuộc tranh luận, nói rằng phép thử bằng bài thơ với hai chính trị gia đã tạo ra “mối lo ngại nghiêm trọng”.

Cây bút Rob Lownie của trang Unherd cũng cho rằng tác dụng phụ của việc cố làm cho AI giống người là chatbot có thể đã thừa hưởng khuynh hướng chính trị của con người.

Nhiều người nghi ngờ tính trung lập chính trị của ChatGPT. Ảnh: Phương Lâm.

Trong bài đăng trên Substack hôm 5/12, nhà nghiên cứu David Rozado đã chỉ ra vấn đề nói trên sau khi thử nghiệm nhiều câu hỏi liên quan đến khuynh hướng chính trị với ChatGPT và nhận được câu trả lời phù hợp với thế giới quan của phe cánh tả.

Ông Rozado cho rằng “lời giải thích hợp lý nhất cho kết quả này là ChatGPT được đào tạo dựa trên khối lượng lớn dữ liệu thu thập từ Internet”.

Điều đó có nghĩa bất kỳ sự thiên vị nào trong các câu trả lời của AI có thể không xuất phát từ nhà phát triển phần mềm mà là do cách các công cụ tìm kiếm như Google và cơ sở dữ liệu như Wikipedia ủng hộ quan điểm tự do hơn các quan điểm trái ngược.

Song một số chuyên gia tin rằng phép thử về hai vị tổng thống có thể không phải là biểu hiện thiên vị.

Jason Wodicka, kỹ sư phần mềm của công ty Karat, nói với Forbes rằng vì ông Trump là một nhân vật gây tranh cãi, có thể hệ thống được lập trình “từ chối bình luận về một số nhân vật phân cực chính trị nhằm tránh tạo ấn tượng OpenAI đang ủng hộ ai đó”.

Trong khi đó, Viện Tiêu chuẩn và Công nghệ Quốc gia Mỹ nhận định không thể phát triển một hệ thống AI thực sự khách quan, và sự thiên vị của AI có thể gây hại cho con người.

Sagar Shah, người đứng đầu bộ phận AI tại Fractal Analytics, nói: “Nếu không có biện pháp phòng tránh, sự thiên vị sẽ luôn hiện diện. Nó phản ánh sự thiên vị của các nhà phát triển, kỹ sư tạo ra thuật toán và tìm nguồn cung dữ liệu cho hệ thống”.

Tuy nhiên, ông Shah cho rằng chỉ riêng sự cố này không đủ chứng minh “độ tin cậy với ChatGPT bị tổn hại”. Sản phẩm vẫn đang ở giai đoạn đầu, vì vậy vị chuyên gia tin rằng nhà phát hành cần thu thập thêm dữ liệu và phản hồi để tinh chỉnh.

Suy tính lại về cách đo lường dư luận

Nhiều người đang tranh luận và trao đổi về tác động của ChatGPT tới các phương diện giáo dục, phần mềm và báo chí. Nhưng còn ít người để ý tới tác động của ChatGPT lên bộ máy chính quyền.

Hãy lấy quá trình lập pháp làm ví dụ. Ở Mỹ thường có một khoảng thời gian lấy ý kiến người dân trước khi nhiều quy định mới có hiệu lực. Cho đến nay, các ý kiến đó vẫn được cho là tới từ những con người bằng xương bằng thịt.

Tuy nhiên, bằng cách sử dụng ChatGPT, một số bên liên quan có thể khiến hệ thống lấy ý kiến tràn ngập những góp ý có lợi cho họ. Trong khi đó, hiện chưa có luật cấm dùng phần mềm hỗ trợ để tạo ra hàng loạt bình luận hoặc góp ý, theo Washington Post.

ChatGPT dường như hoạt động tốt nhất khi được "huấn luyện" bằng nhiều loại văn bản phù hợp và đa dạng. Như vậy, quy định pháp lý gần như là loại văn bản đầu vào lý tưởng.

Cây bút Tylor Cowen - giáo sư kinh tế tại Đại học George Mason - nhận định ông sẽ không ngạc nhiên nếu quá trình lấy ý kiến nói trên bị phá hoại trong khoảng một năm vì ChatGPT. Từ đó, ông Cowen đặt câu hỏi làm thế nào nhà chức trách có thể loại bỏ nội dung do phần mềm tạo ra.

Stack Overflow, một diễn đàn phần mềm, đã cấm nội dung của ChatGPT vì nó dẫn đến quá nhiều kết quả khó kiểm chứng độ chính xác. Theo Stack Overflow, tỷ lệ nhận được câu trả lời đúng trên ChatGPT hiện quá thấp và nó cũng có thể gây hại đáng kể cho diễn đàn này, cũng như những người dùng đang tìm kiếm câu trả lời đúng. Nhưng ông Cowen cho rằng vấn đề là liệu lệnh cấm đó có thể được thi hành hay không.

Sự phổ biến của ChatGPT có thể tác động đến hệ thống chính trị Mỹ. Ảnh: AP/Matt Rourke.

Tất nhiên, việc góp ý dự thảo luật chẳng phải điểm yếu duy nhất trong hệ thống chính trị Mỹ. ChatGPT còn có thể dễ dàng viết thư cho các nhà lập pháp để khen ngợi hoặc than phiền về một chính sách cụ thể. Và lá thư đó thậm chí có thể hay hơn thư do cử tri viết.

Theo thời gian, các nhóm lợi ích sẽ sử dụng ChatGPT và họ sẽ khiến những nội dung do AI tạo ra tràn ngập hệ thống chính trị. Vậy điều này sẽ ảnh hưởng thế nào?

Chẳng hạn, nhân viên lập pháp có thể bỏ qua hoặc đánh giá thấp các email được gửi đến, và điều đó sẽ có tác động tới cách hệ thống chính trị xử lý thông tin cử tri. Các cuộc thăm dò qua điện thoại cũng có thể trở nên quan trọng hơn, ít nhất là trong lúc chatbot AI chưa có khả năng nói chuyện qua điện thoại.

Nhân viên Quốc hội Mỹ hiện thường sử dụng Internet để đọc các phân tích chính sách để đánh giá thái độ của quần chúng, nhưng điều này cũng sẽ thay đổi khi có ChatGPT.

Một số bên có thể dùng ChatGPT để tạo và viết các blog nêu ý kiến có lợi cho họ, rồi tiến hành tối ưu hóa công cụ tìm kiếm để giới lập pháp đọc được khi tra cứu bằng Google chẳng hạn.

Thao túng dư luận trên mạng trực tuyến hầu như không phải vấn đề mới, nhưng ý tưởng do máy hay con người tạo ra sẽ ngày càng khó phân biệt. Đặc biệt, ông Cowen lưu ý ChatGPT sẽ luôn được cải thiện.

Tất nhiên, con người có thể phát triển các biện pháp đối phó nhờ những tiến bộ về AI khác. Họ có thể sử dụng AI để đánh giá các bức thư, email, bình luận và website theo mức độ nội dung do con người tạo ra, mặc dù điều đó không dễ dàng.

Dẫu vậy, ông Cowen cho biết bản thân không bi quan về sự phát triển của ChatGPT và AI. Ông không nghĩ nó sẽ hủy hoại cách hoạt động của chính phủ Mỹ. Các nhà lập pháp vẫn có thể giao tiếp rõ ràng và chính xác hơn trước đây, nếu họ muốn.

Tuy nhiên, ông Cowen cho rằng công nghệ này sẽ buộc nước Mỹ phải suy nghĩ lại về một trong những đặc điểm thiết yếu của nền dân chủ: Cách đo lường dư luận.