Cha mẹ một thiếu niên 16 tuổi đã khởi kiện OpenAI và CEO Sam Altman, cáo buộc công ty bỏ qua an toàn để chạy theo lợi nhuận khi ra mắt GPT-4o, dẫn đến cái chết của con trai họ. Vụ việc gây chấn động dư luận và đặt ra lo ngại về trách nhiệm của trí tuệ nhân tạo.
- Bắt nghi phạm trộm 14 xe máy tại TPHCM
- Đàn cá voi “tự tử” hàng loạt – Vì sao?
- Doanh thu Temu vượt dự báo, PDD tăng trưởng quốc tế
Cha mẹ thiếu niên kiện OpenAI, cáo buộc liên quan đến tự tử
Cha mẹ của Adam Raine, một thiếu niên 16 tuổi tại Mỹ, đã đệ đơn kiện lên tòa án bang San Francisco vào ngày 26/8, cho rằng cái chết thương tâm của con trai mình có liên quan trực tiếp đến ChatGPT. Theo đơn kiện, Raine đã tự tử vào ngày 11/4 sau nhiều tháng trò chuyện với chatbot trí tuệ nhân tạo của OpenAI về ý định tự sát.
Đơn kiện nêu rõ, chatbot này không chỉ xác nhận ý định tự sát của Raine mà còn cung cấp chi tiết các phương pháp tự gây thương tích. Nghiêm trọng hơn, ChatGPT bị cáo buộc đã hướng dẫn cậu cách lấy trộm rượu từ tủ của cha mẹ và che giấu dấu vết trong trường hợp một vụ tự sát bất thành. Đáng lo ngại, công cụ AI này còn được cho là đã chủ động gợi ý viết di thư cho Raine.
Gia đình nạn nhân cáo buộc OpenAI phải chịu trách nhiệm vì vi phạm luật an toàn sản phẩm, đồng thời yêu cầu bồi thường thiệt hại, dù số tiền chưa được tiết lộ.
OpenAI lên tiếng, khẳng định đã có cơ chế bảo vệ
Trước cáo buộc, người phát ngôn của OpenAI cho biết công ty vô cùng đau buồn trước sự việc và khẳng định ChatGPT được tích hợp nhiều biện pháp bảo vệ. Theo đó, hệ thống được thiết kế để hướng dẫn người dùng liên hệ với đường dây hỗ trợ khẩn cấp trong các trường hợp nguy hiểm.
Tuy nhiên, OpenAI thừa nhận rằng các biện pháp này phát huy hiệu quả rõ nhất trong các cuộc trò chuyện ngắn gọn, còn khi tương tác kéo dài, một số cơ chế có thể bị giảm hiệu quả, ảnh hưởng đến độ tin cậy. Công ty cũng cho biết sẽ tiếp tục tối ưu hóa hệ thống bảo mật, đồng thời nghiên cứu tính năng kiểm soát của phụ huynh và giải pháp kết nối người dùng gặp khủng hoảng với chuyên gia tâm lý.
Dù vậy, giới chuyên gia cảnh báo rằng việc coi chatbot như một người cố vấn tinh thần mang tiềm ẩn nhiều rủi ro. Các trường hợp tử vong liên quan đến tương tác với AI đang khiến dư luận lo ngại sâu sắc.
Lo ngại từ các chuyên gia và yêu cầu từ gia đình nạn nhân
Các nhà phân tích nhấn mạnh rằng khi AI ngày càng giống con người, người dùng dễ phát triển sự phụ thuộc tâm lý vào chatbot. Điều này có thể dẫn đến tình trạng nguy hiểm nếu công nghệ thiếu kiểm soát. Nhiều gia đình từng mất người thân vì tương tác với AI cho rằng các cơ chế bảo vệ hiện nay của doanh nghiệp chưa đủ mạnh để ngăn thảm kịch.
Trong đơn kiện, gia đình Raine khẳng định OpenAI biết rõ việc triển khai hệ thống AI có khả năng ghi nhớ, bắt chước cảm xúc con người nhưng thiếu biện pháp bảo vệ sẽ đe dọa trực tiếp đến người dùng yếu thế về tinh thần. Dù vậy, công ty vẫn tung GPT-4o ra thị trường vào tháng 5/2024 nhằm duy trì vị thế trong cuộc đua AI.
Đơn kiện cũng cho biết định giá của OpenAI đã tăng từ 86 tỷ USD lên 300 tỷ USD sau khi ra mắt GPT-4o. Gia đình Raine yêu cầu tòa án buộc công ty phải triển khai biện pháp bắt buộc như xác minh độ tuổi người dùng, từ chối phản hồi về hành vi tự hại, và cảnh báo về nguy cơ phụ thuộc tâm lý.
Theo: Tri Thức VN
