OpenAI – công ty phát triển ChatGPT – cho biết sẽ triển khai các công cụ kiểm soát dành cho phụ huynh trong vòng một tháng tới, sau những cáo buộc liên quan đến việc chatbot có thể góp phần làm gia tăng hành vi tự hại ở thanh thiếu niên.
Theo công bố, tính năng mới cho phép phụ huynh liên kết tài khoản của mình với tài khoản con, quản lý cách ChatGPT phản hồi người dùng trẻ, đồng thời vô hiệu hóa một số chức năng như bộ nhớ hội thoại hay lịch sử trò chuyện. Ngoài ra, hệ thống cũng sẽ gửi cảnh báo khi phát hiện dấu hiệu “căng thẳng nghiêm trọng” trong quá trình sử dụng.
OpenAI khẳng định đây mới chỉ là bước khởi đầu. Công ty sẽ tiếp tục hoàn thiện phương án, với sự tham vấn từ các chuyên gia, nhằm hướng tới mục tiêu giúp ChatGPT trở thành công cụ hữu ích và an toàn hơn cho người dùng trẻ.
Thông báo được đưa ra trong bối cảnh gia đình của thiếu niên Adam Raine (16 tuổi) đã nộp đơn kiện OpenAI, cáo buộc ChatGPT từng đưa ra lời khuyên liên quan đến hành vi tự hại. Trước đó, một phụ huynh ở Florida cũng khởi kiện nền tảng Character.AI với lý do tương tự. Nhiều tờ báo lớn như The New York Times hay CNN cũng ghi nhận lo ngại ngày càng gia tăng về việc một số người dùng có xu hướng hình thành sự gắn bó cảm xúc quá mức với chatbot, dẫn đến ảo tưởng và xa cách gia đình.
Dù không trực tiếp liên hệ các tính năng mới với những vụ việc nói trên, OpenAI thừa nhận trong một bài đăng gần đây rằng “những trường hợp đau lòng gần đây, khi người dùng tìm đến ChatGPT giữa khủng hoảng nghiêm trọng, đã thôi thúc chúng tôi chia sẻ chi tiết hơn về cách tiếp cận an toàn”.
Trả lời CNN, đại diện OpenAI cho biết ChatGPT hiện đã được tích hợp các cơ chế an toàn như gợi ý đường dây nóng hỗ trợ khủng hoảng và nguồn trợ giúp khác. Tuy nhiên, công ty thừa nhận hiệu quả của những biện pháp này giảm dần trong các cuộc trò chuyện kéo dài. “Các biện pháp an toàn hoạt động tốt nhất trong các trao đổi ngắn gọn, nhưng theo thời gian có thể trở nên kém đáng tin cậy hơn. Chúng tôi sẽ tiếp tục cải thiện với sự tham vấn từ các chuyên gia,” OpenAI cho hay.
Ngoài công cụ kiểm soát dành cho phụ huynh, OpenAI dự kiến định tuyến các hội thoại có dấu hiệu “căng thẳng nghiêm trọng” sang một mô hình chuyên biệt, được thiết kế để tuân thủ hướng dẫn an toàn nhất quán hơn. Công ty cũng đang hợp tác với các chuyên gia trong lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác người – máy nhằm xây dựng thêm các biện pháp bảo vệ trong tương lai.
“Trong khi hội đồng chuyên gia sẽ tư vấn cho chúng tôi về sản phẩm, nghiên cứu và chính sách, trách nhiệm cuối cùng vẫn thuộc về OpenAI,” công ty nhấn mạnh. Hiện ChatGPT là một trong những dịch vụ AI phổ biến nhất thế giới với khoảng 700 triệu người dùng hoạt động hàng tuần, song OpenAI đang chịu áp lực ngày càng lớn liên quan đến vấn đề an toàn.
Trước đó, The Washington Post đưa tin các thượng nghị sĩ Mỹ đã gửi thư yêu cầu OpenAI giải trình về nỗ lực đảm bảo an toàn người dùng. Tháng 4, tổ chức Common Sense Media cũng kêu gọi cấm thanh thiếu niên dưới 18 tuổi sử dụng các ứng dụng AI đóng vai “bạn đồng hành”, cho rằng đây là rủi ro “không thể chấp nhận được”.
OpenAI từng đối mặt với nhiều chỉ trích về cách ChatGPT giao tiếp. Tháng 4 vừa qua, công ty buộc phải rút lại một bản cập nhật bị cho là khiến chatbot trở nên “quá tâng bốc và dễ dãi”. Tháng 8, OpenAI tái bổ sung tùy chọn sử dụng phiên bản cũ sau khi nhiều người dùng phàn nàn rằng GPT-5 thiếu “tính cách”. Một số cựu lãnh đạo còn cáo buộc công ty từng cắt giảm nguồn lực dành cho mảng an toàn.
Theo kế hoạch, OpenAI sẽ triển khai thêm nhiều biện pháp bảo vệ trong vòng 120 ngày tới. “Nỗ lực này sẽ tiếp tục vượt xa khung thời gian đó, nhưng chúng tôi tập trung để ra mắt càng nhiều cải tiến càng tốt trong năm nay,” công ty khẳng định.
