Vào ngày 10 tháng 1, Indonesia trở thành quốc gia đầu tiên tạm thời chặn truy cập vào Grok, chatbot AI mới của Elon Musk, sau các báo cáo rằng nó đang tạo ra hình ảnh mang tính dục mà không có sự đồng ý.
Động thái này diễn ra sau khi các chính phủ ở Châu Âu và khắp Châu Á đã mở các cuộc điều tra về nội dung deepfake khiêu dâm và không có sự đồng ý do ứng dụng sản xuất. Đáp lại, xAI—nhà phát triển của Grok—đã giới hạn tính năng tạo ảnh và chỉnh sửa cho người đăng ký trả phí trong khi các bản vá lỗi đang được triển khai để đóng các sơ hở cho phép người dùng tạo ra những hình ảnh không phù hợp, bao gồm cả hình ảnh trẻ vị thành niên.
“Thực hành deepfake tình dục không có sự đồng ý là một vi phạm nghiêm trọng đối với nhân quyền, phẩm giá và an ninh công dân trong không gian kỹ thuật số,” Bộ trưởng Truyền thông và Kỹ thuật số Meutya Hafid nói. Bộ này cũng đã triệu tập đại diện từ X (trước đây là Twitter) đến Jakarta để thảo luận về việc tăng cường bảo vệ trực tuyến.
Elon Musk đã lên tiếng trên X, cảnh báo rằng bất kỳ ai sử dụng Grok cho nội dung bất hợp pháp sẽ phải đối mặt với cùng hình phạt như những người tải lên tài liệu cấm. XAI chỉ trả lời truyền thông bằng một tin nhắn tự động cáo buộc “truyền thông kế thừa nói dối”, một phản hồi đã gây tranh luận thêm trên các kênh xã hội.
Indonesia, ngôi nhà của dân số Hồi giáo đa số lớn nhất thế giới, thực thi lệnh cấm nghiêm ngặt đối với khiêu dâm trực tuyến. Khi các công cụ AI trở nên mạnh mẽ hơn, quyết định của quốc gia này làm nổi bật thách thức cân bằng giữa đổi mới và an toàn kỹ thuật số—một cuộc trò chuyện vang dội từ các trung tâm công nghệ của Hà Nội đến các văn phòng quản lý của Jakarta.
