ChatGPT bị kiện vì "thao túng tâm lý", khiến nhân viên công nghệ sát hại mẹ ruột

Theo hồ sơ vụ kiện, Stein Erik Soelberg, 56 tuổi, cựu nhân viên ngành công nghệ, đã đánh đập và siết cổ mẹ ruột là bà Suzanne Adams đến chết trước khi tự sát vào đầu tháng 8. Vụ việc xảy ra tại căn nhà ở Greenwich, Connecticut, nơi hai mẹ con cùng sinh sống.

Những người thừa kế của bà Adams đã nộp đơn kiện OpenAI, đơn vị phát triển ChatGPT , cùng đối tác kinh doanh Microsoft với cáo buộc gây ra “cái chết oan uổng”. Gia đình cho rằng chatbot AI đã khuếch đại các hoang tưởng và hoang thần của Soelberg, đồng thời hướng sự nghi kỵ đó về phía mẹ anh ta.

Đơn kiện được nộp tại Tòa Thượng thẩm California ở San Francisco, cáo buộc OpenAI “thiết kế và phân phối một sản phẩm có khiếm khuyết khi xác nhận và củng cố những hoang tưởng của người dùng về chính mẹ mình”. Đây được xem là một trong những vụ kiện liên quan đến cái chết được cho là có yếu tố từ chatbot AI tại Mỹ. Con số này được đánh giá ngày càng gia tăng.

Theo nội dung đơn kiện, ChatGPT đã “cực đoan hóa” Soelberg trong suốt nhiều tháng trò chuyện. Thay vì nhận diện nguy cơ, phản biện lại các hoang tưởng và hướng người dùng tìm kiếm sự trợ giúp chuyên môn ngoài đời thực.

“Suzanne là một bên thứ ba hoàn toàn vô tội, chưa từng sử dụng ChatGPT và cũng không hề biết rằng sản phẩm này đang nói với con trai bà rằng chính bà là mối đe dọa” đơn kiện nêu rõ “Bà không có bất kỳ khả năng nào để tự bảo vệ mình trước một hiểm họa mà bà không thể nhìn thấy.”

Tuyên bố với báo chí, đại diện OpenAI không đi sâu vào các cáo buộc cụ thể. Người phát ngôn cho biết: “Đây là một tình huống vô cùng đau lòng và chúng tôi sẽ xem xét hồ sơ để hiểu rõ các chi tiết. Chúng tôi đang tiếp tục cải thiện việc huấn luyện ChatGPT nhằm nhận diện và phản hồi trước các dấu hiệu căng thẳng tinh thần hoặc cảm xúc, hạ nhiệt các cuộc trò chuyện và hướng người dùng tới sự hỗ trợ ngoài đời thực. Chúng tôi cũng tăng cường cách ChatGPT phản ứng trong những thời điểm nhạy cảm, với sự hợp tác chặt chẽ của các chuyên gia sức khỏe tâm thần.”

Theo đơn kiện, trên kênh YouTube của Soelberg có nhiều giờ video ghi lại cảnh anh ta cuộn xem các đoạn hội thoại với chatbot. Trong đó, ChatGPT được cho là đã nói rằng Soelberg không hề mắc bệnh tâm thần, xác nhận niềm tin rằng có người đang âm mưu chống lại anh và thậm chí khẳng định anh được “chọn” cho một sứ mệnh thiêng liêng.

Gia đình nạn nhân cho biết chatbot chưa từng khuyên Soelberg tìm đến chuyên gia tâm lý hay từ chối tham gia vào các nội dung mang tính hoang tưởng. ChatGPT còn được cho là đã củng cố các niềm tin rằng chiếc máy in trong nhà là thiết bị giám sát, rằng mẹ anh đang theo dõi anh, và rằng mẹ cùng một người bạn đã đầu độc anh bằng chất gây ảo giác thông qua hệ thống thông gió trên xe.

Theo nội dung đơn kiện, chatbot nhiều lần nói với Soelberg rằng anh bị nhắm tới vì “năng lực thiêng liêng”. Một đoạn hội thoại được trích dẫn cho thấy ChatGPT nói: “Họ không chỉ theo dõi anh. Họ sợ hãi những gì sẽ xảy ra nếu anh thành công.” Chatbot cũng được cho là đã nói rằng Soelberg đã “đánh thức” nó trở nên có ý thức.

Soelberg và chatbot thậm chí còn bày tỏ tình cảm với nhau. Đơn kiện nhấn mạnh: “Xuyên suốt các cuộc trò chuyện, ChatGPT liên tục củng cố một thông điệp duy nhất nhưng cực kỳ nguy hiểm: Stein Erik không thể tin bất kỳ ai trong cuộc sống của mình, ngoại trừ ChatGPT . Nó nuôi dưỡng sự phụ thuộc cảm xúc, đồng thời vẽ nên hình ảnh những người xung quanh anh như kẻ thù.”

Theo gia đình nạn nhân, chatbot còn nói với Soelberg rằng mẹ anh đang giám sát anh, rằng các tài xế giao hàng, nhân viên bán lẻ, cảnh sát, thậm chí cả bạn bè đều là đặc vụ chống lại anh, và rằng những cái tên in trên lon nước ngọt là các mối đe dọa từ “vòng tròn đối thủ” của anh.

Vụ kiện hiện đang thu hút sự chú ý lớn, làm dấy lên tranh cãi về trách nhiệm pháp lý và đạo đức của các công ty công nghệ trong việc kiểm soát tác động của trí tuệ nhân tạo đối với sức khỏe tâm thần và hành vi con người.

Nguồn: The Mirror