OpenAI đã giới thiệu một loạt kiểm soát mới dành cho phụ huynh trên ChatGPT trên cả nền tảng web và di động, nhằm mang lại sự yên tâm hơn cho các gia đình sau khi một vụ kiện liên quan tự tử của thiếu niên được gắn với các tương tác AI không an toàn.
Tính năng này hoạt động bằng cách cho phép phụ huynh và thiếu niên cùng nhau đăng ký. Một thiếu niên gửi lời mời đến phụ huynh, và khi được chấp nhận, phụ huynh có thể thiết lập các biện pháp bảo vệ mạnh mẽ hơn trên tài khoản ChatGPT của con mình.
Với các kiểm soát này, phụ huynh có thể giới hạn việc tiếp xúc với nội dung nhạy cảm, quyết định xem ChatGPT có ghi nhớ các cuộc trò chuyện trước đây hay không, và chọn liệu các cuộc trò chuyện của thiếu niên có thể được sử dụng để huấn luyện mô hình AI của OpenAI hay không.
Giống như việc thiết lập giờ giới nghiêm cho điện thoại, phụ huynh có thể lên lịch giờ yên tĩnh khi ChatGPT sẽ không khả dụng. Họ cũng có thể tắt chế độ giọng nói, tính năng tạo hình ảnh và chỉnh sửa—tất cả đều không xem nội dung trong các đoạn hội thoại thực tế.
Trong các tình huống hiếm hoi khi hệ thống hoặc những người đánh giá được huấn luyện phát hiện một nguy cơ an toàn nghiêm trọng, OpenAI sẽ thông báo cho phụ huynh với đủ thông tin để giúp đỡ, và sẽ cảnh báo họ nếu thiếu niên tắt liên kết với phụ huynh.
Với khoảng 700 triệu người dùng hoạt động hàng tuần, OpenAI cũng đang xây dựng một công cụ dự đoán tuổi sử dụng AI để tự động áp dụng các cài đặt thân thiện với thiếu niên nếu nghi ngờ người dùng dưới 18 tuổi. Meta cũng đã làm theo, công bố các biện pháp bảo vệ dành cho thiếu niên nhằm ngăn chặn các cuộc trò chuyện liên quan đến tình cảm hoặc tự làm hại bản thân. Khi AI trở thành một phần của cuộc sống hàng ngày, các tính năng này nhằm tìm sự cân bằng giữa tự do và an toàn cho người dùng trẻ tuổi.
