Cảnh báo của ông Sanchez cũng giống như nhiều người khác khi nỗi lo ngại về an toàn của công nghệ này ngày càng gia tăng. Nhiều nhân vật hàng đầu trong ngành lên tiếng ủng hộ việc tăng cường hợp tác, điều chỉnh và làm chậm quá trình phát triển của công nghệ này.

Phát biểu tại một sự kiện tập trung vào AI ở thủ đô Madrid, Thủ tướng Sanchez khẳng định: "Nếu AI tập trung vào một vài công ty và một số ít quốc gia, tác động của nó đến sự thịnh vượng chung sẽ rất tiêu cực, nếu không muốn nói là tàn khốc". Ông nhấn mạnh cần hành động khẩn cấp, và kêu gọi sự phối hợp quốc tế vì việc AI không được kiểm soát lại nằm trong tay rất ít người là “công thức hoàn hảo cho thảm họa".

Thủ tướng Tây Ban Nha cũng kêu gọi một AI "tập trung vào hạnh phúc và sự thịnh vượng chung, cho phép xây dựng các xã hội công bằng hơn". Ông đã trình bày một kế hoạch 12 tháng nhằm hướng tới "một hợp đồng xã hội mới cho AI" ở Tây Ban Nha với sự hợp tác của xã hội dân sự. Thỏa thuận này phải mang lại "sự an toàn cho người dân trước những thay đổi trong công việc và cuộc sống mà công nghệ này sẽ tạo ra”.

Trước đó, hồi tháng Hai, ông Sanchez đã công bố kế hoạch cấm mạng xã hội đối với trẻ em dưới 16 tuổi. Chính phủ Tây Ban Nha cũng đã yêu cầu các công tố viên điều tra các tập đoàn X, Meta và TikTok về các hành vi phạm tội có thể liên quan đến nội dung khiêu dâm trẻ em do AI tạo ra.

Cuộc tranh luận đang nóng lên trước thềm các diễn đàn công nghệ quốc tế, trong đó có sự kiện GovTech 2026 diễn ra tại Nam Phi từ ngày 21-23/9. Theo phóng viên TTXVN tại Pretoria, giới khoa học và các nhà quản lý công nghệ đang lên tiếng cảnh báo về những rủi ro khi AI phát triển với tốc độ chóng mặt, làm dấy lên những lo ngại sâu sắc về khả năng nhân loại có thể đánh mất quyền kiểm soát công nghệ này.

Ông Yoshua Bengio, nhà khoa học máy tính người Canada và là người từng đoạt giải thưởng Turing năm 2018, cùng nhà tiên phong AI khác là Geoffrey Hinton – nhận định nhân loại đang dần "mất kiểm soát" đối với AI, đồng thời nhấn mạnh sự cần thiết phải thiết lập các biện pháp bảo vệ với quy mô và tham vọng tương đương như những cơ chế kiểm soát vũ khí hạt nhân.

Chia sẻ quan điểm này, ông Bilal Chughtai - cựu kỹ sư nghiên cứu của Google DeepMind - nhận định năng lực của AI đang tiến bộ nhanh hơn khả năng thấu hiểu của các nhà nghiên cứu trong việc đảm bảo các hệ thống tiên tiến này luôn vận hành đồng điệu với lợi ích của nhân loại (AI alignment).

Tuy nhiên, không phải mọi chuyên gia đều đồng tình với các dự báo bi quan này. Giám đốc điều hành (CEO) Nvidia Jensen Huang đã bác bỏ quan điểm cho rằng AI có thể hủy diệt nhân loại, khẳng định những kịch bản như vậy thiếu cơ sở khoa học. Trong khi đó, CEO của Meta, ông Mark Zuckerberg cho rằng các công ty công nghệ có động lực thương mại mạnh mẽ để đảm bảo độ tin cậy của AI, bởi người tiêu dùng sẽ quay lưng với các sản phẩm hoạt động khó đoán hoặc đi ngược lại lợi ích của họ. Trách nhiệm pháp lý cũng là một yếu tố buộc các tập đoàn phải nghiêm túc giải quyết bài toán an toàn.

Cuộc tranh luận về AI giờ đây không chỉ giới hạn trong Thung lũng Silicon mà đã lan rộng ra phạm vi toàn cầu. Tổng thư ký Liên hợp quốc (LHQ) Antonio Guterres kêu gọi sự phối hợp quốc tế, cảnh báo rủi ro từ AI vượt qua mọi biên giới và không một quốc gia nào có thể tự mình giải quyết. Cao ủy Nhân quyền LHQ Volker Turk cũng hối thúc các chính phủ và công ty phát triển AI tiên tiến hành động khẩn cấp, nhấn mạnh việc chỉ dựa vào các biện pháp tự nguyện của ngành là chưa đủ. Ông Turk đặc biệt quan ngại về việc ứng dụng các hệ thống AI tự trị trong chiến tranh và khả năng công nghệ này có thể làm gián đoạn việc tiếp cận các dịch vụ thiết yếu như hệ thống nước, sưởi ấm và tài chính.