Tài xế gặp tai nạn trên cao tốc sau khi vô tình tắt đèn pha do ra lệnh giọng nói sai mục tiêu

Một vụ tai nạn nghiêm trọng vừa xảy ra tại Trung Quốc khi hệ thống điều khiển bằng giọng nói trên chiếc Lynk & Co Z20 đã hiểu nhầm ý định của tài xế, dẫn đến việc tắt toàn bộ đèn chiếu sáng ngoại thất khi xe đang di chuyển ở tốc độ cao trong đêm.

Sự cố hy hữu từ một câu lệnh

Theo ghi nhận từ The Drive, sự việc xảy ra khi tài xế chiếc crossover điện Lynk & Co Z20 đang lưu thông trên đường cao tốc. Trong nỗ lực tắt đèn đọc sách bên trong khoang cabin bằng giọng nói, hệ thống trí tuệ nhân tạo (AI) của xe đã thực thi nhầm mệnh đề, tắt luôn cả cụm đèn pha chính.

Video từ camera hành trình lan truyền trên mạng xã hội cho thấy toàn bộ tầm nhìn phía trước xe đột ngột chìm vào bóng tối. Chỉ vài giây sau đó, chiếc xe mất phương hướng, đâm sầm vào dải phân cách cứng bên đường. Dù tình trạng sức khỏe cụ thể của những người trong xe chưa được công bố chính thức, nhưng hình ảnh hậu hiện trường cho thấy các nạn nhân vẫn còn tỉnh táo.



Phản ứng tức thời từ nhà sản xuất

Ngay sau khi vụ việc gây rúng động dư luận, đại diện cấp cao của Lynk & Co đã thừa nhận sai sót trong logic vận hành của hệ thống. Một bản cập nhật phần mềm qua mạng (OTA) đã được triển khai khẩn cấp để vá lỗ hổng này.

Những thay đổi chính sau cập nhật:

• Vô hiệu hóa hoàn toàn: Hệ thống giọng nói không còn quyền can thiệp vào cụm đèn pha.
• Kiểm soát thủ công: Tài xế bắt buộc phải sử dụng cần gạt hoặc nút bấm vật lý để tắt/mở đèn, đảm bảo không có sự can thiệp ngoài ý muốn từ AI.

Hồi chuông cảnh báo

Vụ tai nạn này đã làm dấy lên làn sóng lo ngại về mức độ an toàn của các tính năng điều khiển bằng giọng nói. Nhiều chủ xe Zeekr (thương hiệu cùng tập đoàn mẹ với Lynk & Co) đã tự tiến hành thử nghiệm hệ thống trên xe của mình. Kết quả cho thấy, dù các lệnh trực tiếp như "Tắt đèn pha" bị chặn, nhưng những câu lệnh mơ hồ liên quan đến "Đèn" vẫn có thể khiến hệ thống "vượt rào" và thực hiện các thao tác nguy hiểm.



Các chuyên gia công nghiệp nhận định, dù AI giúp giảm bớt thao tác thừa và tăng tính tiện nghi, nhưng việc để phần mềm can thiệp quá sâu vào các hệ thống vận hành cốt lõi (như phanh, lái, hay chiếu sáng) là một "con dao hai lưỡi".

Đây là bài học đắt giá cho các hãng xe trong việc thiết lập rào cản an toàn (fail-safe). Những chức năng ảnh hưởng trực tiếp đến tính mạng cần phải được ưu tiên kiểm soát cơ học thay vì phó mặc cho các thuật toán nhận diện ngôn ngữ tự nhiên vốn vẫn còn nhiều kẽ hở.

Lược dịch từ wonderfulengineering và chia sẻ với các bác!

Các bác thấy sao về sự cố trên? Đâu là cách phòng tránh hiệu quả?