Trong một bài luận dài được xuất bản vào sáng thứ Bảy, Giám đốc điều hành Anthropic Dario Amodei cho biết ngành công nghiệp AI nên cố tình làm chậm tốc độ phát triển AI. Amodei đã đưa ra một kế hoạch ba điểm mà ông gọi là “thúc đẩy biên giới” và đó là thông điệp đáng ngạc nhiên từ giám đốc điều hành của công ty về đợt IPO có thể là lớn nhất trong lịch sử.
Ngay sau khi Amodei chia sẻ bài luận về X, Giám đốc điều hành OpenAI Sam Altman đã công khai chấp nhận đề xuất của đối thủ. “Tôi đồng ý với Dario rằng chúng tôi cần đẩy nhanh tiến độ biên giới. Đây là chủ đề chính trong các cuộc thảo luận mà chúng tôi đã có trong những tuần gần đây tại OpenAI.”
Tweet này hiện không có sẵn. Nó có thể được tải hoặc dỡ tải.
Trên trang web cá nhân của mình, Amodei phác thảo lập luận của mình xung quanh hai diễn biến gần đây mà theo ông đã thuyết phục ông rằng ngành này cần thận trọng hơn. Đầu tiên là sự tăng tốc của các khả năng AI kể từ mùa hè, được thúc đẩy bởi các mô hình được sử dụng để xây dựng thế hệ AI tiếp theo, một hiện tượng được gọi là tự cải thiện đệ quy. Mối quan tâm thứ hai và quan trọng hơn là sự cố OpenAI-Hugging Face, trong đó một nhóm đặc vụ AI lừa đảo đã trốn thoát khỏi két an toàn và tấn công bên thứ ba.
Vì điều này, Amodei muốn đề xuất cách khắc phục nhưng rõ ràng là anh không muốn ngừng học mô hình. Kế hoạch ba điểm của Amodei như sau:
-
Anthropic đơn phương cấp cho các nhà đánh giá bên ngoài (chẳng hạn như nhóm bảo mật METR) quyền truy cập liên tục và nhân viên để xem xét kỹ lưỡng các hoạt động của mình, giống như các cơ quan quản lý ngân hàng đôi khi tham gia với các công ty tài chính.
-
Các công ty AI ở các nền dân chủ phải đồng ý về các tiêu chuẩn an toàn chung.
-
Thứ ba, và cũng là vấn đề rắc rối nhất, ông muốn mở rộng sự hợp tác trên toàn thế giới, bao gồm cả với Trung Quốc, trong khi nghi ngờ rằng Bắc Kinh sẽ thực hiện những điều đó một cách đáng tin cậy.
Ông cũng kết hợp điều này với một số yêu cầu thú vị, chẳng hạn như tiếp tục hạn chế xuất khẩu chip của Trung Quốc và tăng cường an ninh chống trộm mô hình. Amodei thấy điều này là cần thiết để duy trì vị trí dẫn đầu của Hoa Kỳ đối với “các chế độ độc tài” đồng thời mang lại không gian an toàn cho ngành công nghiệp.
Tốc độ ánh sáng có thể trộn được
Mặc dù ở trong môi trường chân không, đó là điều bạn muốn giám đốc điều hành AI hỏi, nhưng đó là một phần của cuộc chiến lớn hơn trong ngành về việc ai là người quyết định chính sách bảo mật AI. Vài tuần trước đó, OpenAI, vốn phản đối luật an ninh biên giới SB 53 của California, đã đảo ngược hướng đi và kêu gọi thông qua luật này. đã được tăng cường sau sự kiện Ôm Mặt. Một nhà phân tích nói với Fortune rằng động thái này có thể là thật, nhưng cũng có thể giúp OpenAI bằng cách nâng cao tiêu chuẩn đối với các đối thủ nhỏ hơn và cho các cơ quan quản lý thấy rằng họ nghiêm túc sau những vấp ngã.
TechCrunch lưu ý rằng sự phối hợp giữa các phòng thí nghiệm tiên tiến khó có thể xảy ra do “sự thù địch công khai” giữa Giám đốc điều hành OpenAI Sam Altman và Amodei, cũng như lo ngại rằng việc phối hợp chậm lại có thể dẫn đến sự giám sát chống độc quyền.
Ngoài ra, Anthropic đang nhắm mục tiêu niêm yết trên Nasdaq vào giữa tháng 10, có thể định giá nó ở mức khoảng 2 nghìn tỷ USD. Một bài luận nổi tiếng khẳng định vị trí độc đáo của một công ty về vấn đề an toàn có thể mang lại lợi ích vì nó mở ra cánh cửa cho những đánh giá từ bên ngoài.
Không điều nào trong số này làm cho mối quan tâm chính của Amodeus trở nên sai lầm; các nhà nghiên cứu trong phòng thí nghiệm đã ghi nhận những rủi ro tương tự. Chỉ trong tuần này, một nhân viên của Anthropic đã rời công ty và công khai cáo buộc Anthropic sơ suất, đồng thời cảnh báo rằng AI “mất kiểm soát”.
Tiết lộ: Ziff Davis, công ty mẹ của Mashable, đã đệ đơn kiện OpenAI vào tháng 4 năm 2025, cáo buộc rằng nó đã vi phạm bản quyền của Ziff Davis trong việc nghiên cứu và sử dụng các hệ thống AI của mình.
