Tại Web Summit gần đây ở Lisbon, nhà vật lý MIT Max Tegmark đã đưa ra một lời cảnh báo về hướng phát triển của trí tuệ nhân tạo. Nói chuyện với Neil Cairns từ RAZOR, ông cảnh báo rằng các công ty đang chạy đua để phát triển các hệ thống có thể một ngày vượt qua trí thông minh con người—nhưng họ đang tiến lên mà không có các biện pháp an toàn cơ bản.
AI hiện nay như một nhân viên pha chế phở lành nghề—giỏi ở một nhiệm vụ nhưng không hơn thế. Tuy nhiên, các nhà nghiên cứu đang hướng đến Trí Tuệ Nhân Tạo Chung và thậm chí Siêu Thông Minh, những hệ thống có thể học, thích nghi và hành động tự động, giống như lái xe máy không phanh.
Điều mà Tegmark thực sự lo ngại là ý tưởng về các máy móc kết hợp trí thông minh sắc bén, khả năng rộng rãi và sự tự do di chuyển trong thế giới. Một khi chúng đạt đến điểm đó, kiểm soát chúng có thể trở nên bất khả thi như việc đuổi theo một chiếc xe máy chạy trốn trong mưa.
Không giống như các lĩnh vực có rủi ro cao như hàng không hoặc y học, các công ty AI gần như không chịu các kiểm tra an toàn bắt buộc. Tegmark cho rằng đã đến lúc áp dụng các tiêu chuẩn thử nghiệm tương tự—hãy tưởng tượng sự yên tâm nếu mỗi mẫu AI mới phải vượt qua một “bài kiểm tra va chạm” trước khi được công bố.
Mặc dù có rủi ro, ông vẫn lạc quan. Mối quan tâm của công chúng đang tăng lên ở các quốc gia trên toàn thế giới, và các chuyên gia đang kêu gọi giới hạn rõ ràng cho các hệ thống AI có thể vượt khỏi kiểm soát của chúng ta. Nếu chúng ta hành động ngay bây giờ, AI vẫn có thể mang lại tiến bộ lớn trong khoa học và chăm sóc sức khỏe—mà không đặt nhân loại vào tình thế nguy hiểm.
Vào năm 2014, Tegmark thành lập Viện Tương Lai Cuộc Sống để vận động cho sự an toàn AI và thúc đẩy các quy định. Thông điệp của ông rất đơn giản: an toàn trước tiên, để đổi mới có thể phát triển.
