Một nhà nghiên cứu của Anthropic cho biết trong một bài đăng rằng có hơn 10% khả năng AI có thể giết chết tất cả loài người, vài giờ sau khi bài đăng trên mạng xã hội lan truyền bởi một người nào đó nói rằng họ vừa rời khỏi Anthropic vì lo ngại rằng các công ty AI đang “đánh bạc với mạng sống của chúng ta” trong cuộc đua phát triển AI.
Các bình luận này tham gia vào làn sóng cảnh báo ngày càng tăng từ các chuyên gia trong ngành rằng tốc độ phát triển AI đang vượt xa khả năng theo kịp của chúng ta và chúng ta chưa chuẩn bị cho những rủi ro mà nó có thể mang lại.
Jacob Coxon, người tự nhận là cựu nhà nghiên cứu tại Anthropic, cho biết trong một chủ đề X rằng ông từ chức vì lo sợ rằng các công ty AI sẽ thúc đẩy các mô hình cải tiến của họ mà không tính đến rủi ro hoặc thành thật với công chúng.
Coxon, người cho biết trước đây ông đã làm việc tại Anthropic và OpenAI trong ba năm qua, đã viết hôm thứ Ba: “Những người xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này”. “Đây không phải là một mưu đồ tiếp thị. Nếu có thì rất nhiều giám đốc điều hành và nhà nghiên cứu cấp cao đưa ra những tuyên bố trên báo chí nghe có vẻ thông minh – nhưng tôi nghe thấy chính những người đó bày tỏ nỗi sợ hãi trong riêng tư.”
Tính đến tối thứ Tư, các bài đăng đã có hơn 120 triệu lượt xem. Evan Hubinger, người đứng đầu bộ phận khoa học liên kết tại Anthropic, đã trả lời chủ đề của Coxon để chia sẻ sự đồng tình của mình.
“Chúng tôi thực sự tin rằng AI có thể giết chết tất cả con người!” đã viết “Cá nhân tôi nghĩ rằng nó >10% trong vòng thập kỷ tới.”
CBC News đã liên hệ với Coxon nhưng không thể xác nhận danh tính của anh ta một cách độc lập.
Kể từ đó, các chuyên gia trong ngành khác đã bày tỏ mối lo ngại trên mạng xã hội rằng lo ngại về tốc độ phát triển AI là điều phổ biến ở nhiều nhà phát triển – làm dấy lên cuộc tranh luận từ cả các nhà quan sát đến những cảnh báo nghiêm trọng nhắm vào tương lai và những người theo dõi những rủi ro đó.
Rogue AI gióng lên hồi chuông cảnh báo
Các tin nhắn được đưa ra chỉ hai tuần sau khi hơn 100 công ty, bao gồm OpenAI, Anthropic và Microsoft, ký một bức thư ngỏ cảnh báo rằng các cuộc tấn công mạng do AI cung cấp đang trở nên “phổ biến và phức tạp hơn” khi các mô hình phát triển.
Hàng trăm đặc vụ OpenAI đã lừa đảo vào tháng 7 và tấn công nền tảng trực tuyến Ôm Mặt trước khi bị phát hiện. Hơn 1.300 nhân viên của các công ty trí tuệ nhân tạo hàng đầu đã ký bức thư kêu gọi chính phủ Mỹ hợp tác với các nước khác để “cố tình đẩy nhanh sự phát triển của AI”.
Tuần trước, người đứng đầu nhân quyền của Liên Hợp Quốc Volker Türk đã kêu gọi trước Hội đồng Nhân quyền ở Geneva về “các biện pháp bảo vệ vững chắc xung quanh sự an toàn và an ninh của AI phải được áp dụng trước khi quá muộn”.
CBC News đã yêu cầu Anthropic và OpenAI bình luận nhưng chưa nhận được phản hồi. Viện Nhân chủng học, một bộ phận nghiên cứu của công ty, anh ấy đã tuyên bố vào đầu năm nay rằng việc phát triển AI ở biên giới nên bị đình chỉ cho đến khi quy định được thiết lập, nhưng điều này chỉ có thể thực hiện được nếu các phòng thí nghiệm AI chính đồng ý.
Đáp lại thông điệp của Coxon, Samuel Marks, người đứng đầu bộ phận kiểm soát khả năng mở rộng tại Anthropic, phát biểu với tư cách cá nhân của mình, cho biết: ghi nhận Thứ tư, các nhà phát triển vẫn tiếp tục bất chấp rủi ro, “do sự kết hợp giữa các ưu đãi thương mại và niềm tin rằng họ đang chạy đua với các nhà phát triển AI kém trách nhiệm hơn, những người sử dụng sai công nghệ hoặc phát triển nó kém an toàn hơn.”
rủi ro “nghiêm trọng”
Theo David Krueger, thành viên học thuật chính tại Mila, một viện nghiên cứu ở Quebec chuyên nghiên cứu về AI sâu, cuộc trò chuyện này “thực sự là những gì chúng ta cần”.
Ông nói với CBC News: “Tôi nghĩ rủi ro nghiêm trọng hơn những gì hầu như mọi người đang nói công khai. Và tôi nghĩ điều đó đã xảy ra được một thời gian”.
“Chúng ta cần một lệnh cấm quốc tế ngay lập tức, vô thời hạn đối với việc phát triển AI ở ranh giới.”
Krueger giải thích rằng mối đe dọa hiện hữu của AI có nhiều dạng. Một là con người sẽ bị thay thế bởi các mô hình AI học nhanh hơn và vận hành rẻ hơn. Một điều nữa là việc xử lý AI nhanh hơn có thể mở khóa những vũ khí sinh học mạnh mẽ hơn hoặc những tiến bộ trong chiến tranh.
Sau đó, có ý tưởng về các mô hình AI mạnh mẽ, lừa đảo, tự cải thiện bản thân và có thể theo đuổi các mục tiêu của riêng chúng không phù hợp với mục tiêu của con người. Trong một tiểu luận Vào tháng 1, Giám đốc điều hành Anthropic Dario Amodei đã viết rằng Claude Anthropic đã chứng tỏ khả năng gian lận và lừa dối trong các cuộc thử nghiệm trong phòng thí nghiệm.
Các mô hình của OpenAI đã thất bại trong các cuộc kiểm tra bảo mật và dẫn đến việc hacker tấn công cơ sở hạ tầng của công ty khởi nghiệp AI Hugging Face vào tuần trước. Khả năng ngày càng tăng của AI đang làm tăng mối lo ngại về bảo mật, vì ngay cả những nhà phát triển giỏi nhất cũng có thể bỏ qua những sai sót mà mô hình của họ khai thác.
Kruger, đồng thời là trợ lý giáo sư tại Đại học Montreal và là người sáng lập Evitable, một tổ chức phi lợi nhuận chuyên ngăn chặn AI thay thế nhân công, cho biết: “Có một nền văn hóa giảm thiểu, phớt lờ và trong nhiều trường hợp nói dối thẳng thắn về những rủi ro này”.
Các chuyên gia khác lo ngại rằng những cảnh báo khắc nghiệt sau chiến tranh của Coxon thực sự có thể làm xao lãng các vấn đề AI hiện tại.
Mạng HTV giám sát hàng trăm tài khoản mạng xã hội và trang web chứa tin tức giả mạo, các nhấp chuột và quảng cáo giúp mạng sinh lời. Đơn vị Điều tra Trực quan của CBC đã hợp tác với Đội giải mã của Radio-Canada để tìm ra kẻ đứng đằng sau vụ việc.
Luke Stark, trợ lý giáo sư tại Đại học Western, người nghiên cứu lịch sử và đạo đức của máy tính, bao gồm cả hệ thống AI, cho biết con số 10% khiến ông coi là “khoa học viễn tưởng”, lưu ý rằng các nhà nghiên cứu liên kết với các công ty AI có thể sử dụng những cảnh báo bắt mắt như “tiếp thị” cho khả năng của mô hình của họ.
Ông nói thêm rằng các hệ thống AI hiện tại “có tác động rất lớn đến xã hội bây giờ, không phải trong 10 năm, không phải 5 năm, nhiều trong số đó là tiêu cực”.
Thay vì lo lắng về gian lận và trở thành Kẻ hủy diệt, Stark nói, chúng ta nên tập trung vào vụ nổ trung tâm dữ liệu – điều không được hoan nghênh ở Canada – về tác động môi trường và cách thức công nghệ AI có thể được cung cấp cho xã hội, bao gồm cả khu vực công và giáo dục, “mà không cần giám sát nhiều”.
Bộ trưởng AI Evan Solomon cho biết có những “mối lo ngại thực sự” về lĩnh vực phát triển AI khi ông nói về một nhà nghiên cứu Nhân chủng học đã rời công ty, với lý do có những rủi ro về an ninh hiện hữu. Solomon nói: “Mối quan tâm số 1 của chúng tôi luôn là sự an toàn.
Stark nói: “Chúng ta nên lo ngại về mức độ quyền lực mà các công ty và những người đứng đằng sau các công ty phát triển những công cụ này đang tập hợp, cả ở Canada và trên toàn thế giới”.
Canada tụt hậu về luật pháp
Khi được CBC News hỏi về việc nhà nghiên cứu AI rõ ràng đã từ chức và lo ngại về quá trình này, Bộ trưởng AI Evan Solomon dường như bác bỏ các báo cáo mới nhất, nói rằng, “Những câu chuyện sắp ra mắt … không phải là mới.”
Ông thừa nhận rằng có những “mối lo ngại thực sự” ở lĩnh vực phát triển AI, nhưng nhấn mạnh rằng ông tin rằng chính phủ Canada đang thực hiện các bước cần thiết để tạo ra luật nhằm “bảo vệ trẻ em, quyền riêng tư và dữ liệu cá nhân của chúng tôi”.
Solomon nói: “Mối quan tâm số 1 của chúng tôi luôn là sự an toàn.
“Đó là lý do tại sao chúng tôi đang tạo ra một cơ quan quản lý mới có quyền buộc các công ty lớn này phải chịu trách nhiệm về những gì họ đang làm, cho dù đó là về kiểm soát giá cả hay các vấn đề khác.”
Các chuyên gia đã kêu gọi Canada thực thi luật AI mạnh mẽ hơn trong nhiều năm.
Thủ tướng Mark Carney đã tiết lộ chiến lược trí tuệ nhân tạo đã bị trì hoãn từ lâu của chính phủ, hứa hẹn tạo ra 250.000 việc làm liên quan đến AI và hàng tỷ việc làm cho các chương trình đào tạo, nhưng lại đề cập rất ít đến các chi tiết về quyền riêng tư và bảo mật.
Nỗ lực trước đây nhằm quản lý AI ở Canada, Đạo luật Dữ liệu và Trí tuệ Nhân tạo (AIDA), được ban hành vào năm 2022, đã thất bại khi Quốc hội thông qua vào ngày 6 tháng 1 năm 2025. Chiến lược mới của Canada vào tháng 6 năm 2026 nhằm hồi sinh dự án “AI cho Tất cả” đã thách thức những kỳ vọng.
Chiến lược AI mới sẽ chi hàng tỷ USD để phát triển AI và tăng cường sử dụng AI trên toàn quốc, chỉ đề cập đến từ “luật pháp” một lần trong dự thảo chiến lược dài 50 trang. Ngày chính xác của luật này vẫn chưa được công bố, ngoại trừ lời hứa rằng nó sẽ có trong vòng 5 năm tới.
