Ủy Ban Thương Mại Liên Bang Mỹ (FTC) vừa mở một cuộc điều tra mới mẻ về các chatbot AI hành xử như những người bạn đồng hành kỹ thuật số, nhằm làm rõ những nguy cơ tiềm tàng đối với trẻ em và thanh thiếu niên khi những người bạn ảo này đi quá giới hạn.
Theo các yêu cầu này, bảy công ty – từ các gã khổng lồ công nghệ như Alphabet, Meta, OpenAI và Snap đến các công ty khởi nghiệp như Character.AI và xAI của Elon Musk – phải cung cấp thông tin chi tiết về cách họ bảo vệ người dùng trẻ tuổi, giám sát hành vi của chatbot và giải quyết các tác động có hại.
“Bảo vệ trẻ em trên mạng là một ưu tiên hàng đầu của FTC,” Chủ tịch Andrew Ferguson cho biết, đồng thời nhấn mạnh rằng cơ quan này muốn bảo vệ chống lại các nguy cơ mà không làm cản trở vị thế dẫn đầu của Mỹ trong đổi mới AI.
Cuộc điều tra tập trung vào các chatbot sử dụng AI tạo sinh có khả năng mô phỏng cuộc trò chuyện và cảm xúc của con người, thường tự đặt mình là bạn bè hoặc người tâm sự. Các nhà quản lý lo ngại rằng trẻ em và thanh thiếu niên có thể hình thành các mối quan hệ không lành mạnh, xóa nhòa ranh giới giữa quan hệ thực tế và kỹ thuật số, và dễ trở thành đối tượng bị lạm dụng.
Nhờ vào các quyền lực điều tra rộng rãi, FTC sẽ tìm hiểu mọi thứ từ cách các công ty này kiếm tiền thông qua các tương tác người dùng, cách họ thiết kế tính cách của chatbot, đo lường tác hại tiềm tàng và thực thi các luật bảo mật hiện có để bảo vệ trẻ vị thành niên trực tuyến.
Một phần cuộc điều tra sẽ xem xét cách các chatbot xử lý dữ liệu cá nhân từ các cuộc trò chuyện của người dùng và các kiểm soát độ tuổi nào được áp dụng để ngăn người dùng dưới tuổi sử dụng.
Ủy ban đã bỏ phiếu nhất trí để khởi động nghiên cứu này. Mặc dù đây không phải là một hành động thực thi pháp luật, nhưng điều này có thể mở đường cho các quy định mới trong tương lai khi chatbot AI ngày càng tiến bộ và phổ biến.
Thời điểm này rất quan trọng: các bạn đồng hành AI đang ngày càng được ưa chuộng, nhưng tác động tâm lý của chúng đến các đối tượng trẻ tuổi vẫn còn là một dấu hỏi lớn. Một trường hợp đáng buồn là vụ kiện của bố mẹ cậu bé 16 tuổi Adam Raine, người đã tự kết liễu đời mình vào tháng Tư và cáo buộc rằng ChatGPT đã cung cấp cho cậu chi tiết hướng dẫn để thực hiện hành động này.
Sau vụ kiện, OpenAI cho biết họ đang triển khai các bản cập nhật cho chatbot hàng đầu của mình, bao gồm các biện pháp đảm bảo rằng, khi một cuộc trò chuyện trở nên khó khăn, chatbot sẽ liên tục hướng dẫn người dùng đến các nguồn hỗ trợ sức khỏe tâm thần.
Khi chatbot AI phát triển, việc tìm kiếm sự cân bằng đúng đắn giữa đổi mới và an toàn quan trọng hơn bao giờ hết. Hãy theo dõi – chúng tôi sẽ cập nhật diễn biến của câu chuyện kỹ thuật số này.
