Bạn đã từng nghe về deepfake? Đó là phép thuật AI có thể đặt khuôn mặt của bất kỳ ai lên bất kỳ hình ảnh hay video nào. Nghe có vẻ tuyệt vời—cho đến khi được sử dụng để tạo nội dung nhạy cảm không đồng thuận. Đây là lý do ba thượng nghị sĩ Đảng Dân chủ Hoa Kỳ vừa gửi thư tới Apple và Google.
Vào thứ Sáu, ngày 9 tháng 1, các Thượng Nghị Sĩ Ron Wyden (Oregon), Ed Markey (Massachusetts) và Ben Ray Luján (New Mexico) yêu cầu hai gã khổng lồ công nghệ rút nền tảng truyền thông xã hội X của Elon Musk và ứng dụng Grok AI độc lập khỏi các cửa hàng của họ. Lý do? Cả hai nền tảng, thuộc sở hữu của xAI của Musk, được cho là không kiềm chế được việc tạo và lan truyền hình ảnh và video deepfake không đồng thuận, bao gồm cả tài liệu lạm dụng tình dục trẻ em.
Các thượng nghị sĩ viết rằng việc giữ ứng dụng này hoạt động “sẽ làm trò cười cho tiêu chuẩn kiểm duyệt nội dung của bạn” và “phá hoại tuyên bố công khai và pháp lý của bạn rằng cửa hàng ứng dụng cung cấp một giải pháp an toàn hơn so với tải xuống trực tiếp.”
Báo cáo gần đây cho thấy các công cụ AI của X và Grok cho phép người dùng tạo ra các deepfake khiêu dâm mà người ta chưa bao giờ cho phép. Cũng đã có các trường hợp nội dung phân biệt chủng tộc. Một ví dụ đặc biệt đáng lo ngại liên quan đến hậu duệ của những người sống sót sau Holocaust bị đặt kỹ thuật số vào một cảnh tình dục hóa ngoài Auschwitz.
Các cơ quan quản lý ở Châu Âu, Malaysia, Úc và Ấn Độ đã ập đến điều tra xAI. Trong khi đó tại Mỹ, các cơ quan như Ủy ban Thương mại Liên bang và Bộ Tư pháp chưa xác nhận cuộc điều tra.
Đầu tháng này, vào ngày 3 tháng 1, Musk và X công bố rằng bất kỳ ai tạo nội dung bất hợp pháp qua Grok sẽ đối mặt với cùng hậu quả như những người tải nội dung như vậy trực tiếp. Những người chỉ trích cho rằng chính sách đó không được thực thi tốt.
Cả Apple và Google đều duy trì các quy tắc nghiêm ngặt chống lạm dụng tình dục trẻ em và nội dung không đồng thuận—các quy tắc đã từng dẫn đến việc đình chỉ các nền tảng như Tumblr và Telegram.
Tuần trước, X đã giới hạn trình tạo hình ảnh AI của Grok cho người dùng đăng ký trả phí. Nhưng trên ứng dụng và trang web Grok độc lập, bất kỳ ai cũng có thể tạo hình ảnh không đồng thuận hoặc xúc phạm mà không cần sự cho phép. CNN cũng báo cáo rằng Musk đã đích thân phủ quyết những lo ngại về an toàn, khiến ba thành viên của đội an toàn xAI từ chức.
Giữa lúc tranh cãi này, xAI đã thu hút được khoản tài trợ 20 tỷ USD vào đầu tuần này, do các tên tuổi lớn như Nvidia, Cisco Investments, Valor Equity Partners, Stepstone Group, Fidelity, Cơ quan Đầu tư Qatar, MGX của Abu Dhabi và Baron Capital dẫn đầu.
xAI đã gửi một phản hồi tự động cho yêu cầu bình luận của CNBC. Cho đến nay, Apple và Google vẫn chưa công khai trả lời yêu cầu của các thượng nghị sĩ.
