Xin chào và chào mừng đến với TechScape. Tôi là Blake Montgomery, biên tập viên công nghệ người Mỹ của tờ Guardian. Hôm nay trong mục Công nghệ, chúng ta thảo luận về sự bối rối của người tiêu dùng về bảo mật AI vào tuần trước.
Tại sao cảnh báo về ngày tận thế AI này lại thất bại trong khi rất nhiều người khác lại không làm được?
Cách đây chưa đầy một tuần, một nhà nghiên cứu trẻ tuổi của Anthropic đã tuyên bố từ chức khỏi gã khổng lồ AI ở X, làm rung chuyển Thung lũng Silicon, Washington DC và thậm chí cả Bắc Kinh.
Jacob Coxon viết: “Những người xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này”.
Kể từ đó, bài đăng đã được xem 171 triệu lần, theo số liệu X. Tại sao nó lại đi xa đến vậy?
Đây không phải là lần đầu tiên những người trong cuộc về AI đưa ra những cảnh báo nghiêm trọng. Cứ vài tháng trong vài năm qua, một nhà nghiên cứu AI lại từ chức trong thời điểm khủng hoảng, thông báo về ngày tận thế sắp xảy ra. Thông báo của ông được đưa ra trong một cuộc xung đột chính trị chưa từng có, thời điểm khiến công chúng lo sợ và tức giận dâng cao.
Tuyên bố lớn tiếng rằng các đồng nghiệp của bạn ở Thung lũng Silicon đang thất bại trong lĩnh vực bảo mật AI cũng lâu đời như chính các công ty đó. Hội đồng quản trị của OpenAI đã sa thải Sam Altman vào năm 2023. Dario Amodei tách khỏi OpenAI 5 năm trước với mục tiêu tạo ra một phòng thí nghiệm “bảo mật là trên hết”. Năm 2015, Altman và Elon Musk thành lập OpenAI nhằm đối phó với cách tiếp cận AI của Google. Musk kiện Altman vì vi phạm lời hứa an toàn quan trọng và đã thua kiện.
Các nhà nghiên cứu AI lớn đã có sự nghiệp thứ hai trong việc dự đoán cái chết. Geoffrey Hinton, người đoạt giải Nobel được mệnh danh là “cha đỡ đầu của AI”, cho biết ngay từ năm 2023 rằng công nghệ này có thể dẫn đến sự tuyệt chủng của loài người trong vòng ba thập kỷ. Kể từ đó, anh đã rút ngắn lịch trình của mình. Anh ấy đã từ chức ở Google vì những lý do tương tự như Coxon. Hinton đã bắt đầu phát biểu kể từ đó, dự đoán về cái chết.
Việc Hinton từ chức thậm chí còn gây ra phản ứng dữ dội từ các nhà lập pháp. Tại Mỹ, Joe Biden đã ban hành lệnh hành pháp buộc các công ty AI phải kiểm tra bảo mật. Quốc hội đã kêu gọi các CEO AI tra tấn, mặc dù điều đó dẫn đến rất ít hành động lập pháp. Tại Liên minh châu Âu, Đạo luật EU về trí tuệ nhân tạo được thông qua một phần do phản ứng mạnh mẽ trước những cảnh báo của Hinton.
Chưa hết, ở đây chúng tôi một lần nữa cảm thấy rằng một chút điều chỉnh có ý nghĩa sẽ ngăn ngừa thiệt hại cho AI.
Vậy tại sao lời tuyên bố về ngày tận thế của Coxon lại sâu sắc hơn?
Đầu tiên, đó là người đưa tin: Lời kêu gọi tăng cường bảo mật của Coxon đáng tin cậy ở một số khía cạnh: Anh ta có quyền truy cập nội bộ vào cả Anthropic và OpenAI, nơi anh ta đã làm việc trong 5 năm. Ông đã từ chức trước khi nhận được vốn của mình ở Anthropic, với lý do cá nhân phải trả giá khi lên tiếng. Và các đồng nghiệp của ông, những người vẫn đang thuộc biên chế của Anthropic, đã xác nhận tuyên bố của ông rằng nhiều nhà nghiên cứu AI tin rằng AI sẽ dẫn đến sự tuyệt chủng của loài người, và một đồng nghiệp ước tính kết quả này lên tới hơn 10%.
Những phát triển gần đây trong lĩnh vực AI đã khiến những tuyên bố về ngày tận thế trở nên hợp lý hơn. Một nhóm tác nhân AI do OpenAI vận hành đã đột nhập vào nhiều địa điểm và tổ chức vào đầu năm nay trong một cuộc kiểm tra bảo mật với sự phối hợp đáng ngạc nhiên. Vào thứ Năm, Anthropic đã trình bày chi tiết cách bọn tội phạm và các nhà khoa học lừa đảo cố gắng sử dụng Claude để chế tạo vũ khí sinh học.
Max Tegmark, đồng sáng lập Viện Vì Tương lai Cuộc sống, được tài trợ bởi hàng trăm triệu đô la từ tỷ phú tiền điện tử Ethereum, cho biết: “Lý do lần này khác biệt là AI không thể kiểm soát được không phải ở tương lai mà là ở quá khứ. Mọi người đã thấy bằng chứng về việc điều đó xảy ra”. (Tổ chức Tegmark đã kêu gọi giảm tốc độ phát triển AI vào năm 2023, nhưng Amodei đã từ chối vào thời điểm đó.)
Tegmark nói: “Nếu bạn đang cố gắng làm cho mọi người lo lắng về mùa đông hạt nhân năm 1942 thì chúc may mắn. Mọi người đang hỏi liệu vũ khí hạt nhân có khả thi hay không”. “Điều đó đã được các nhà vật lý biết đến vào thời điểm đó, nhưng bạn không thể thôi miên người bình thường. Tất cả chỉ là lý thuyết. Với AI, tất cả chỉ là lý thuyết cho đến khi nó xảy ra. Giờ đây, cuộc tranh luận về việc liệu bạn có thể mất kiểm soát hay không đã kết thúc.”
Sau đó là bối cảnh. Tình cảm của công chúng đối với công nghệ ở Mỹ đang rất lạc quan và ngày càng có nhiều tuyên bố về sự diệt vong sắp xảy ra. Đất nước này đang trong thế phải ứng phó nhiều mặt với công nghệ. Những người bên ngoài các trung tâm công nghệ chính đang bị các trung tâm dữ liệu và nói một cách tượng trưng là bởi AI.
Các tỷ phú công nghệ đang xuất hiện trên khắp đất nước — kiểm soát khối tài sản khổng lồ và các kênh truyền thông toàn cầu — tạo ảnh hưởng của họ trong nền chính trị Hoa Kỳ bằng những đóng góp hậu hĩnh cho chiến dịch tranh cử.
sau khi bản tin được quảng cáo
Amba Kak, đồng giám đốc của Viện AI Now và cựu cố vấn AI cấp cao tại Ủy ban Thương mại Liên bang Hoa Kỳ, cho biết: “Đã ít nhất một năm kể từ khi nỗ lực thúc đẩy trung tâm dữ liệu ngày càng tăng khiến quy định ủng hộ AI trở thành ý nghĩa chung mới và nó chắc chắn đã biến ngành công nghiệp AI trở thành một thương hiệu rất độc hại”.
Thực tế là các công ty liên quan đã phản ứng mạnh mẽ với Coxon. Cam kết của họ là chi tiết và bảy.
Kack nói: “Điều này đã cho phép các công ty như Anthropic và những công ty khác ngay lập tức khẳng định mình là chuyên gia hàng đầu trong việc giải quyết những nỗi sợ hãi này. Cách giải quyết các vấn đề mà mỗi tài khoản đã tạo ra hoặc ở vị trí tốt nhất để tránh”.
Hai suy nghĩ cuối cùng. Một dấu hiệu cho thấy cuộc khủng hoảng niềm tin vào AI đã lan rộng đến mức nào: Các cộng tác viên kỳ lạ đã hợp tác để tìm ra câu trả lời. Hôm nay, Viện Tương lai Cuộc sống đang tổ chức một cuộc mít tinh ở Washington nhằm thúc đẩy an ninh AI, do Bernie Sanders, thượng nghị sĩ dẫn đầu từ Vermont, và Steve Bannon, cựu chánh văn phòng của Donald Trump, người đã tuyên thệ là kẻ thù trong các vấn đề khác, dẫn đầu.
Và cuối cùng: Tại sao ngành công nghiệp AI lại toàn đàn ông – chỉ những người đàn ông AI mới bày tỏ nỗi sợ hãi về sự tuyệt chủng của loài người – giữa cuộc khủng hoảng về khả năng mất việc làm của họ?
Shakil Hashim, người viết bản tin AI của Transformer, cho biết: “Những người này chắc chắn tin vào những gì họ đang nói. Đó không phải là một quan điểm”. “Cách tốt nhất tôi có thể giải thích cho tôi là chúng tôi đang cố gắng tạo ra thứ gì đó thông minh hơn loài khỉ. Sự tồn tại của chúng tôi không tốt cho loài khỉ; sự tồn tại của AGI có lẽ sẽ không tốt cho chúng tôi.”
