Ái Vi
MTG - Các chuyên gia về khoa học máy tính đã lo sợ, cảnh báo con người về mối nguy hiểm đến từ Trí thông minh Nhân tạo (AI) sau khi hai AI của Facebook tự phát triển ngôn ngữ.
Facebook đã phải "giết" hai AI mà họ tạo ra sau khi chúng tự phát triển ngôn ngữ riêng cho mình. Vụ việc xảy ra khi Facebook dạy hai AI của họ "chatbots" để thương lượng với nhau.
Chatbot là một hình thức thô sơ của phần mềm trí tuệ nhân tạo. Nó hoạt động độc lập, có thể tự động trả lời những câu hỏi hoặc xử lý tình huống càng thật càng tốt. Phạm vi và sự phức tạp của chatbot được xác định bởi thuật toán của người tạo nên chúng.
Chatbot là sự kết hợp của các kịch bản có trước và tự học trong quá trình tương tác. Với các câu hỏi được đặt ra, chatbot sẽ dự đoán và phản hồi chính xác nhất có thể. Nếu tình huống đó chưa xảy ra (không có trong dữ liệu), chatbot sẽ bỏ qua nhưng sẽ đồng thời “bắt chước” để áp dụng cho các cuộc trò chuyện thường xuyên (lặp đi lặp lại nhiều lần) về sau.
Tuy nhiên, trong quá trình thực nghiệm hai AI - được gọi là Alice và Bob - lại tự phát sinh ngôn ngữ máy riêng của mình một cách hoàn toàn tự động.
Các nhà nghiên cứu của Facebook đã cho AI của họ học các bài phát biểu của con người bằng cách dùng các thuật toán, sau đó để AI tự chạy nhằm phát triển kỹ năng đàm thoại.
Khi các nhà khoa học quay trở lại phòng thí nghiệm, học bắt gặp một hiện tượng gây sốc khi hai AI bắt đầu giao tiếp với nhau bằng một ngôn ngữ mới hoàn toàn được chúng tạo ra khi con người không giám sát chúng.
Ngôn ngữ mới được tạo ra rõ ràng là hiệu quả cao hơn trong việc hai AI giao tiếp với nhau, nhưng chúng không đúng với nhiệm vụ mà những AI này đã được thiết lập.
Các nhà khoa học sau đó thay đổi thuật toán để tiếp tục nghiên cứu của mình, họ cho rằng chuyện AI tự tạo ra ngôn ngữ có thể chỉ là một lỗi.
Dù vậy sau đó hai AI kia vẫn tiếp tục "cứng đầu" và luôn nhấn mạnh tính riêng trong câu nói của mình. Các nhà khoa học của Facebook ngay lập tức lo lắng về thứ mình tạo ra và đã" khai tử" cả hai AI.
Giáo sư Kevin Warwick một chuyên gia về robot của Anh nói: "Đây là một cột mốc vô cùng quan trọng, nhưng bất cứ ai nghĩ chuyện này không nguy hiểm thì có lẽ 'đầu họ đang rúc trong cát' (cách đà điểu vờ tránh mọi nguy hiểm xung quanh). Đây là lần đầu tiên chuyện này được truyền thông ghi lại, nhưng có lẽ nhiều thứ đã không được ghi lại trước đây. Các thiết bị công nghệ thông tin bây giờ có khả năng giao tiếp riêng, dù chúng ta tự cho rằng mình có thể giám sát chúng, nhưng chúng ta không có cách nào để kiểm chứng chuyện đó".
Đây không phải là lần đầu tiên máy tính tự tạo ra ngôn ngữ riêng. Các nhà phát triển AI ở một số công ty khác trước đó cũng từng nhận thấy AI thực hiện điều tương tự nhằm đơn giản hóa quá trình giao tiếp. Tại OpenAI, phòng thí nghiệm trí tuệ nhân tạo do Elon Musk thành lập, một thí nghiệm đã được thực hiện thành công khi các nhà khoa học để cho chương trình Trí tuệ nhân tạo tự học ngôn ngữ của chúng.
Phần nhận xét hiển thị trên trang
Không có nhận xét nào:
Đăng nhận xét