Tại Đại Hội Đồng Liên Hợp Quốc, hơn 200 chuyên gia—từ các nhà khoa học đoạt giải Nobel đến các kỹ sư hàng đầu tại Anthropic, Google DeepMind, Microsoft và OpenAI—đã ký một bức thư ngỏ kêu gọi tất cả các chính phủ thiết lập các "lằn ranh đỏ" rõ ràng cho AI.
Bức thư nhấn mạnh tiềm năng to lớn của AI nhưng cảnh báo về những nguy hiểm chưa từng có nếu không được kiểm soát. Nó kêu gọi cấm quốc tế đối với các ứng dụng được coi là quá rủi ro, bao gồm:
Trao quyền kiểm soát vũ khí hạt nhân cho AI
Triển khai vũ khí tự động gây chết người
Giám sát hàng loạt hoặc chấm điểm xã hội
Tấn công mạng quy mô lớn hoặc mạo danh con người
Các bên ký cho rằng các lằn ranh đỏ này phải được thiết lập trước cuối năm sau, với tốc độ phát triển nhanh chóng của AI hiện nay. Họ chỉ ra các mối đe dọa như đại dịch nhân tạo, thông tin giả lan truyền, thao túng tâm lý quy mô lớn—đặc biệt là trẻ em—thất nghiệp hàng loạt và vi phạm nhân quyền có hệ thống.
Nếu không có các biện pháp bảo vệ, họ cảnh báo, AI có thể sớm vượt ngoài khả năng kiểm soát của chúng ta, để lại chúng ta mà không có mạng lưới an toàn. Đây là lúc các chính phủ cần bước lên, vạch ranh giới và giữ AI trên con đường mang lại lợi ích cho nhân loại.
