Tin tưởng AI quá mức, cựu Giám đốc Uber gặp tai nạn khi lái xe

[PinaColada]

Việc phụ thuộc hoàn toàn vào AI và chế độ tự lái có thể khiến tài xế mất khả năng phản ứng kịp thời khi hệ thống gặp sự cố, ngay cả với người có chuyên môn sâu về xe tự lái.


Chiếc Tesla Model X của Krikorian bị hư hỏng hoàn toàn sau tai nạn. Ảnh: Raffi Krikorian.
Raffi Krikorian, cựu Giám đốc chương trình xe tự lái của Uber và hiện là Giám đốc công nghệ của Mozilla, vừa chia sẻ bài học của chính mình từ vụ tai nạn với xe Tesla. Chiếc Tesla Model X của ông bị hư hỏng hoàn toàn sau khi đâm vào tường khi đang sử dụng chế độ Tự lái hoàn toàn (FSD) có sự tham gia của AI tại San Francisco.

Ông đang trên đường đưa con trai đến buổi họp khi sự cố xảy ra. "Tôi cảm thấy có gì đó không ổn, vô lăng giật mạnh sang một bên rồi sang bên kia và giảm tốc đột ngột. Tôi đã xoay vô lăng để điều khiển", Krikorian viết trong bài đăng trên tạp chí The Atlantic.

"Tôi không biết chính xác hệ thống đang làm gì hay tại sao. Tôi chỉ biết rằng trong vài giây đó, chúng tôi đã va vào một bức tường", ông nói thêm.

Krikorian bị chấn động não sau vụ tai nạn, nhưng may mắn không có ai khác bị thương.

Điều Krikorian muốn nhấn mạnh không phải lỗi kỹ thuật cụ thể, mà là tâm lý người dùng với AI. Ông từng điều hành bộ phận xe tự lái Uber giai đoạn 2015-2017 và giám sát đội xe thử nghiệm tự hành. Dù có nền tảng chuyên môn sâu, ông vẫn rơi vào bẫy quen thuộc.

"Một cỗ máy hoạt động hoàn hảo sẽ không cần giám sát. Tuy nhiên, cỗ máy hoạt động gần như hoàn hảo lại là câu chuyện khác. Đó là nơi tiềm ẩn nguy hiểm cao nhất", Krikorian nhận định.

FSD không phải hệ thống an toàn tuyệt đối. Tesla đang đối mặt nhiều cuộc điều tra từ cơ quan quản lý về các báo cáo xe trang bị FSD lái sai làn đường, vượt đèn đỏ và cố vượt qua đường ray xe lửa. Gã khổng lồ xe điện này cũng đã phải trả hơn 242 triệu USD tiền bồi thường trong vụ tai nạn năm 2019 khiến một phụ nữ 22 tuổi thiệt mạng.

Tháng 12/2025, một thẩm phán California kết luận quảng cáo của Tesla đã đưa ra thông tin sai lệch rằng xe trang bị FSD có thể tự lái hoàn toàn.

Tesla không phải trường hợp duy nhất. Ford đang bị điều tra về 2 vụ tai nạn chết người năm 2024 liên quan đến hệ thống BlueCruise. Tài liệu của Ủy ban An toàn Giao thông Quốc gia Mỹ (NTSB) cho thấy cả 2 tài xế đều bị phân tâm trước khi tai nạn xảy ra.

Uber cũng từng trả giá đắt. Năm 2018, một năm sau khi Krikorian rời công ty, xe thử nghiệm của Uber đã đâm chết một người đi bộ ở Arizona. Điều tra của NTSB đã chỉ trích "văn hóa an toàn không đầy đủ" của Uber và xác định người điều khiển phương tiện đã bị phân tâm bởi điện thoại di động. Sau đó, ứng dụng gọi xe này đã từ bỏ mảng xe tự lái vào năm 2020.

Câu chuyện của Krikorian phản ánh vấn đề mà toàn ngành xe tự lái chưa giải quyết được. Khi AI chưa đủ tốt để tự hành một chiếc xe, đây là vùng nguy hiểm đối với người dùng và có thể gây ra các vụ tai nạn không đáng có trong tương lai.

VietBF@ sưu tập