Nỗi lo AI trở thành vũ khí hủy diệt loài người, cần phải kiểm soát AI?

Thứ ba - 19/03/2024 06:12

Trong báo cáo mới của đối tác được chính phủ Mỹ ủy quyền thực hiện, đã đưa ra cảnh báo AI có thể gây "mối đe dọa với loài người ở cấp độ tuyệt chủng", cần có ngưỡng kiểm soát.
Báo cáo này có tên Kế hoạch hành động nhằm tăng cường sự an toàn và bảo mật đối với AI tiên tiến. Trong báo cáo có đề xuất một loạt hành động và chính sách sâu rộng, chưa từng có về trí tuệ nhân tạo. Chúng có thể sẽ thay đổi hoàn toàn ngành công nghiệp AI nếu được ban hành.

Một robot trong bộ phim "Kẻ hủy diệt". Ảnh: Paramount

Trong báo cáo có nêu: "Sự trỗi dậy của AI tiên tiến và siêu trí tuệ nhân tạo AGI có khả năng gây mất ổn định an ninh toàn cầu, khiến mọi người gợi nhớ đến việc sử dụng vũ khí hạt nhân".
Cụ thể, báo cáo khuyến nghị Quốc hội Mỹ nên xây dựng ngưỡng sức mạnh cho công cụ trí tuệ nhân tạo, do một cơ quan chuyên trách về AI của liên bang kiểm soát. Khi đó, các công ty AI phải xin phép chính phủ để đào tạo và triển khai mô hình mới theo ngưỡng đề ra. Điều này sẽ giúp "điều tiết" việc cạnh tranh giữa các nhà phát triển AI. Khi "đã cảm thấy đủ an toàn" hoặc "phát hiện mối nguy” cơ quan kiểm soát AI liên bang có thể nâng ngưỡng hoặc hạ ngưỡng trong các mô hình AI.

Bên cạnh đó, báo cáo cho rằng, nhà chức trách nên kiểm soát xuất bản nội dung hoặc hoạt động nội bộ bên trong mô hình AI mạnh mẽ. Nếu vi phạm có thể bị phạt tù. Ngoài ra, việc sản xuất và xuất khẩu chip AI cũng cần phải được kiểm soát chặt chẽ hơn. Chính phủ nên hướng nguồn tài trợ liên bang vào nghiên cứu điều chỉnh AI tiên tiến trở nên an toàn hơn.
Bộ Ngoại giao Mỹ chưa đưa ra bình luận về báo cáo trên.
AI hiện phát triển bùng nổ với nhiều mô hình có thể thực hiện các công việc tưởng như chỉ xuất hiện trong phim khoa học viễn tưởng.
Nhiều chuyên gia đã lên tiếng cảnh báo về mức độ nguy hiểm của việc AI phát triển quá nhanh.

Tác giả bài viết: Phạm Văn Quỳnh

Nguồn tin: Quantrimang.com:

Ý kiến bạn đọc

Bạn cần đăng nhập với tư cách là %s để có thể bình luận

Những tin mới hơn

Những tin cũ hơn

Giới Thiệu

Giới thiệu về trung tâm

Trung tâm Công nghệ thông tin và Truyền thông Sơn La, được thành lập từ 20/12/2004, tại Quyết định số 189/2004/QĐ-UB, của UBND tỉnh Sơn La, tiền thân là Trung tâm tin học trực thuộc Văn phòng UBND tỉnh Sơn La. Chính thức được đổi tên thành Trung tâm Công nghệ thông tin và Truyền thông tỉnh Sơn La từ...