Những cải tiến mới nhất xung quanh công nghệ dựa trên AI đang vượt qua ranh giới của những gì chúng ta từng nghĩ là có thể với AI. Tuy nhiên, với việc các chatbot như ChatGPT và Bing Chat trở nên gần như tốt như con người ở một số thứ, liệu đã đến lúc bạn nên dừng lại một thời gian?
Elon Musk và một số nhà nghiên cứu AI nằm trong số 1.188 người (tại thời điểm viết bài) nghĩ như vậy. Một lá thư được xuất bản bởi viện Future of Life phi lợi nhuận kêu gọi tạm dừng sáu tháng để đào tạo các công nghệ AI tốt hơn GPT 4, nhưng việc tạm dừng có thực sự cần thiết không?
Tương lai của cuộc sống Thư ngỏ Tất cả về là gì?
Bức thư được công bố bởi viện Future of Life chỉ ra rằng các phòng thí nghiệm AI đã “bị khóa trong một cuộc đua mất kiểm soát” để phát triển và triển khai các mô hình AI ngày càng mạnh mẽ hơn mà không ai, kể cả những người tạo ra chúng, có thể “hiểu, dự đoán được”. , hoặc kiểm soát một cách đáng tin cậy”.
Nó cũng chỉ ra rằng các hệ thống AI đương đại hiện đang trở nên cạnh tranh với con người trong các nhiệm vụ chung và đặt câu hỏi liệu chúng ta có nên phát triển “những bộ óc phi phàm mà cuối cùng có thể đông hơn, thông minh hơn, lỗi thời và thay thế chúng ta hay không”.
Bức thư cuối cùng kêu gọi tất cả các phòng thí nghiệm AI ngay lập tức tạm dừng việc đào tạo các hệ thống AI mạnh hơn GPT-4 trong ít nhất sáu tháng. Việc tạm dừng cũng phải được công khai và có thể kiểm chứng được trên tất cả các tác nhân chính. Nó cũng nêu rõ rằng nếu việc tạm dừng như vậy không thể được thực thi nhanh chóng, các chính phủ nên can thiệp để tạm thời cấm đào tạo mô hình AI.
Sau khi tạm dừng có hiệu lực, các phòng thí nghiệm AI và các chuyên gia độc lập được yêu cầu sử dụng nó để cùng phát triển và triển khai một “bộ giao thức bảo mật dùng chung” để đảm bảo rằng các hệ thống tuân thủ các quy tắc này “an toàn ngoài sự nghi ngờ hợp lý”.
Bức thư này đã được ký bởi khá nhiều nhân vật nổi tiếng, bao gồm Elon Musk, Steve Wozniak, các nhà nghiên cứu và tác giả về AI. Trên thực tế, danh sách các bên ký kết hiện đang bị tạm dừng do nhu cầu cao.
Mối quan tâm của Musk với Công nghệ AI tiên tiến và OpenAI là gì?
Mặc dù việc ký vào bức thư của Future of Life có thể chỉ ra rằng Musk lo ngại về những rủi ro an toàn mà các hệ thống AI tiên tiến như vậy gây ra, nhưng lý do thực sự có thể là một điều gì đó khác.
Musk đồng sáng lập OpenAI với Giám đốc điều hành hiện tại Sam Altman vào năm 2015 với tư cách là một tổ chức phi lợi nhuận. Tuy nhiên, anh ấy đã đối đầu với Altman vào cuối năm 2018 sau khi anh ấy nhận ra rằng mình không hài lòng với tiến độ của công ty. Musk được cho là muốn tiếp quản để tăng tốc độ phát triển, nhưng Altman và hội đồng quản trị OpenAI đã bác bỏ ý tưởng này.
Musk rời OpenAI ngay sau đó và mang theo số tiền của mình, phá vỡ lời hứa đóng góp 1 tỷ đô la tài trợ và chỉ đưa 100 triệu trước khi rời đi. Điều này buộc OpenAI phải trở thành công ty tư nhân ngay sau đó vào tháng 3 năm 2019 để gây quỹ tiếp tục nghiên cứu.
Một lý do khác khiến Musk rời đi là việc phát triển AI tại Tesla sẽ gây ra xung đột lợi ích trong tương lai. Rõ ràng là Tesla cần các hệ thống AI tiên tiến để cung cấp năng lượng cho các tính năng Tự lái hoàn toàn của mình. Kể từ khi Musk rời OpenAI, công ty đã ngừng phát triển các mô hình AI của mình, ra mắt ChatGPT hỗ trợ GPT3.5 vào năm 2022 và sau đó là GPT-4 vào tháng 3 năm 2023.
Thực tế là nhóm AI của Musk không ở gần OpenAI cần được tính đến mỗi khi ông nói rằng các mô hình AI hiện đại có thể gây ra rủi ro. Anh ấy cũng không gặp vấn đề gì khi triển khai bản beta Tự lái hoàn toàn của Tesla trên đường công cộng, về cơ bản biến những người lái xe Tesla thông thường thành người thử nghiệm bản beta.
Điều này cũng không kết thúc ở đây. Musk cũng khá chỉ trích OpenAI trên Twitter, với Altman thậm chí còn nói rằng anh ấy đang tấn công họ khi xuất hiện trên podcast “On with Kara Swisher” gần đây.
Hiện tại, có vẻ như Musk chỉ đang sử dụng bức thư Tương lai của Cuộc sống để tạm dừng sự phát triển tại OpenAI và bất kỳ công ty nào khác đang bắt kịp GPT-4 để tạo cơ hội cho các công ty của anh ấy bắt kịp thay vì thực sự lo ngại về những nguy cơ tiềm ẩn mà những điều này có thể gây ra. Người mẫu AI tạo dáng. Lưu ý rằng bức thư cũng yêu cầu tạm dừng “đào tạo” các hệ thống AI trong sáu tháng, điều này có thể dễ dàng bỏ qua để tiếp tục phát triển chúng trong thời gian chờ đợi.
Tạm dừng có thực sự cần thiết không?
Sự cần thiết phải tạm dừng tùy thuộc vào trạng thái của các mô hình AI trong tương lai. Bức thư chắc chắn có giọng điệu hơi kịch tính và chúng ta không có nguy cơ mất quyền kiểm soát nền văn minh của mình vào tay AI, như nó đã tuyên bố một cách công khai. Điều đó nói rằng, các công nghệ AI gây ra một số mối đe dọa.
Cho rằng OpenAI và các phòng thí nghiệm AI khác có thể đưa ra các biện pháp kiểm tra an toàn tốt hơn tại chỗ, việc tạm dừng sẽ có hại nhiều hơn là có lợi. Tuy nhiên, đề xuất của bức thư về một tập hợp các giao thức an toàn được chia sẻ “được kiểm tra và giám sát chặt chẽ bởi các chuyên gia độc lập bên ngoài” nghe có vẻ là một ý tưởng hay.
Với việc những gã khổng lồ công nghệ như Google và Microsoft đổ hàng tỷ đô la vào việc phát triển và tích hợp AI trong các sản phẩm của họ, bức thư khó có thể ảnh hưởng đến tốc độ phát triển AI hiện tại.
AI ở đây để ở lại
Với việc những gã khổng lồ công nghệ đẩy mạnh tích hợp AI trong các sản phẩm của họ hơn nữa và đầu tư hàng tỷ đô la vào nghiên cứu và phát triển, AI vẫn ở đây để tồn tại, bất kể phe đối lập nói gì.
Nhưng thực hiện các biện pháp an toàn để ngăn chặn những công nghệ này đi chệch hướng và có khả năng biến thành công cụ gây hại không phải là một ý tưởng tồi.
