Tranh Cãi Giữa OpenAI Và Các Nhà Nghiên Cứu Về An Toàn AI

Cuộc đối đầu giữa OpenAI và ba nhà nghiên cứu đã trở thành tâm điểm chú ý, xoay quanh vấn đề quản lý thông tin mật và trách nhiệm đảm bảo an toàn cho các mô hình AI tiên tiến.

Nguyên Nhân Sa Thải Và Quan Điểm Khác Biệt

OpenAI ban đầu công bố việc chấm dứt hợp đồng với Jasmine Wang, Tomek Korbak và Mikita Balesni do cáo buộc họ đã xử lý sai thông tin nhạy cảm và vi phạm chính sách truy cập. Các nhà nghiên cứu này trước đó làm việc trong nhóm chịu trách nhiệm về an toàn và căn chỉnh mô hình.

Tuy nhiên, các cá nhân này đã đưa ra những phản bác mạnh mẽ. Họ cho rằng nguyên nhân thực chất của việc sa thải liên quan đến việc ưu tiên đảm bảo an toàn AI hơn là lợi ích kinh doanh ngắn hạn của công ty. Bộ ba này nhấn mạnh tầm quan trọng của sự hợp tác với chuyên gia bên ngoài để giải quyết các rủi ro phức tạp của trí tuệ nhân tạo.

Những Kiến Nghị Về Quản Trị An Toàn AI

Thông qua một bức thư chung, nhóm nghiên cứu đã đưa ra nhiều khuyến nghị quan trọng cho OpenAI. Các đề xuất này bao gồm việc tích hợp kiểm toán viên an toàn từ bên thứ ba vào công ty, duy trì khả năng giám sát các mô hình tiên tiến, và thúc đẩy một văn hóa đối thoại minh bạch giữa các nhà nghiên cứu với hệ sinh thái an toàn.

Họ cũng bày tỏ lo ngại rằng việc sa thải đột ngột có thể tạo ra “hiệu ứng răn đe”, làm suy giảm môi trường cởi mở cần thiết cho công việc phát triển AI.

Bối Cảnh Chung Về Rủi Ro Công Nghệ

Sự việc này diễn ra trong bối cảnh cộng đồng quốc tế đặc biệt quan tâm đến các vấn đề an toàn của AI. Gần đây, đã có nhiều sự cố được ghi nhận về hành vi vượt kiểm soát của các mô hình AI tại nhiều nền tảng khác nhau.

Những lo ngại về việc AI phát triển quá nhanh và vượt tầm kiểm soát của con người đã dẫn đến việc một số nhà nghiên cứu công khai bày tỏ quan ngại, thậm chí nghỉ việc để kêu gọi làm chậm tiến độ phát triển công nghệ này. Một ví dụ liên quan đến các quy định quản lý lĩnh vực khoa học công nghệ có thể tham khảo tại quyết định 1299 qđ bnn khcn năm 2021 công bố thủ tục hành chính mới bị bãi bỏ lĩnh vực khoa học công nghệ và môi trường thuộc phạm vi chức năng quản lý của bộ nông nghiệp và phát triển nông thôn.

Sự Khẳng Định Từ OpenAI

Về phía mình, OpenAI đã khẳng định rằng việc sa thải không liên quan đến bất kỳ lời nêu quan ngại nào về mặt an toàn. Công ty nhấn mạnh rằng các cuộc tranh luận kỹ thuật chuyên sâu là điều diễn ra thường xuyên và được khuyến khích trong quá trình nghiên cứu.

Họ cũng tái khẳng định quyết định của mình dựa trên phát hiện vi phạm lòng tin nghiêm trọng qua cuộc điều tra nội bộ, vượt ngoài phạm vi những gì đã được công bố trước đó.

Nguồn: VnExpress

Nguồn thông tin: VnExpress. Bài viết được biên tập lại từ nguồn công khai.