Với các mô hình ngôn ngữ AI hiện đại như ChatGPT và Bing Chat của Microsoft đang tạo nên làn sóng trên khắp thế giới, một số người lo lắng về việc AI sẽ chiếm lĩnh thế giới.
Mặc dù chúng ta sẽ không chạy vào SkyNet trong tương lai gần, nhưng AI đang trở nên tốt hơn con người ở một số điểm. Đó là lúc vấn đề kiểm soát AI phát huy tác dụng.
Giải thích vấn đề điều khiển AI
Vấn đề kiểm soát AI là ý tưởng rằng AI cuối cùng sẽ trở nên giỏi hơn trong việc đưa ra quyết định so với con người. Theo lý thuyết này, nếu con người không thiết lập mọi thứ một cách chính xác từ trước, chúng ta sẽ không có cơ hội sửa chữa mọi thứ sau này, nghĩa là AI sẽ có quyền kiểm soát hiệu quả.
Nghiên cứu hiện tại về các mô hình AI và Machine Learning (ML) ít nhất phải mất nhiều năm nữa mới có thể vượt qua khả năng của con người. Tuy nhiên, thật hợp lý khi nghĩ rằng, xét đến tiến độ hiện tại, AI sẽ vượt xa con người cả về trí thông minh và hiệu quả.
Điều đó không có nghĩa là các mô hình AI và ML không có giới hạn của chúng. Rốt cuộc, chúng bị ràng buộc bởi các định luật vật lý và độ phức tạp tính toán, cũng như sức mạnh xử lý của các thiết bị hỗ trợ các hệ thống này. Tuy nhiên, thật an toàn khi cho rằng những giới hạn này vượt xa khả năng của con người.
Điều này có nghĩa là các hệ thống AI siêu thông minh có thể gây ra mối đe dọa lớn nếu không được thiết kế phù hợp với các biện pháp bảo vệ để kiểm tra mọi hành vi bất hảo tiềm tàng. Những hệ thống như vậy cần được xây dựng từ đầu để tôn trọng các giá trị con người và kiểm soát quyền lực của họ. Đây là ý nghĩa của vấn đề điều khiển khi nói rằng mọi thứ phải được thiết lập chính xác.
Nếu một hệ thống AI vượt qua trí thông minh của con người mà không có các biện pháp bảo vệ thích hợp, thì kết quả có thể rất thảm khốc. Các hệ thống như vậy có thể đảm nhận quyền kiểm soát các tài nguyên vật lý khi nhiều nhiệm vụ được hoàn thành tốt hơn hoặc hiệu quả hơn. Vì các hệ thống AI được thiết kế để đạt được hiệu quả tối đa nên việc mất kiểm soát có thể dẫn đến hậu quả nghiêm trọng.
Khi nào vấn đề kiểm soát AI được áp dụng?
Vấn đề chính là hệ thống AI càng trở nên tốt hơn thì người giám sát con người càng khó giám sát công nghệ để đảm bảo có thể dễ dàng kiểm soát thủ công nếu hệ thống bị lỗi. Ngoài ra, xu hướng con người dựa vào hệ thống tự động cao hơn khi hệ thống hoạt động đáng tin cậy trong hầu hết thời gian.
Một ví dụ tuyệt vời về điều này là bộ Tesla Full-Self Driving (FSD). Mặc dù ô tô có thể tự lái nhưng nó yêu cầu con người phải đặt tay lên vô lăng, sẵn sàng điều khiển ô tô nếu hệ thống gặp trục trặc. Tuy nhiên, khi các hệ thống AI này trở nên đáng tin cậy hơn, ngay cả sự chú ý của con người tỉnh táo nhất cũng sẽ bắt đầu thay đổi và sự phụ thuộc vào hệ thống tự trị sẽ tăng lên.
Vậy điều gì sẽ xảy ra khi ô tô bắt đầu lái với tốc độ mà con người không thể theo kịp? Cuối cùng, chúng ta sẽ trao quyền kiểm soát cho các hệ thống tự trị của ô tô, nghĩa là hệ thống AI sẽ kiểm soát cuộc sống của bạn, ít nhất là cho đến khi bạn đến đích.
Vấn đề kiểm soát AI có thể được giải quyết không?
Có hai câu trả lời cho vấn đề kiểm soát AI có thể được giải quyết hay không. Đầu tiên, nếu chúng ta diễn giải câu hỏi theo nghĩa đen, thì vấn đề kiểm soát không thể giải quyết được. Chúng tôi không thể làm gì mà nhắm trực tiếp vào xu hướng dựa vào hệ thống tự động của con người khi hệ thống này hoạt động đáng tin cậy và hiệu quả hơn trong hầu hết thời gian.
Tuy nhiên, nếu xu hướng này được coi là một tính năng của các hệ thống như vậy, chúng ta có thể nghĩ ra các cách để giải quyết vấn đề điều khiển. Ví dụ, tài liệu nghiên cứu Ra quyết định thuật toán và vấn đề kiểm soát đề xuất ba phương pháp khác nhau để giải quyết tình trạng khó khăn:
- Việc sử dụng các hệ thống kém tin cậy hơn đòi hỏi con người phải tích cực tương tác với hệ thống vì các hệ thống kém tin cậy hơn không gây ra vấn đề kiểm soát.
- Để chờ một hệ thống vượt quá hiệu quả và độ tin cậy của con người trước khi triển khai trong thế giới thực.
- Để chỉ thực hiện tự động hóa một phần bằng cách sử dụng phân tách nhiệm vụ. Điều này có nghĩa là chỉ những bộ phận của hệ thống không yêu cầu người vận hành thực hiện một nhiệm vụ quan trọng mới được tự động hóa. Nó được gọi là cách tiếp cận phân bổ chức năng động/bổ sung (DCAF).
Phương pháp DCAF luôn đặt người vận hành là con người điều khiển hệ thống tự động, đảm bảo rằng thông tin đầu vào của họ kiểm soát các phần quan trọng nhất trong quy trình ra quyết định của hệ thống. Nếu một hệ thống đủ hấp dẫn để người vận hành chú ý liên tục, vấn đề kiểm soát có thể được giải quyết.
Chúng ta có thể thực sự kiểm soát AI không?
Khi các hệ thống AI trở nên tiên tiến, có khả năng và đáng tin cậy hơn, chúng tôi sẽ tiếp tục giảm tải nhiều nhiệm vụ hơn cho chúng. Tuy nhiên, vấn đề kiểm soát AI có thể được giải quyết bằng các biện pháp phòng ngừa và bảo vệ phù hợp.
AI đã và đang thay đổi thế giới đối với chúng ta, chủ yếu là theo hướng tốt đẹp hơn. Miễn là công nghệ được giữ dưới sự giám sát của con người, thì chúng ta không có gì phải lo lắng.
