Kỹ Sư Google Bị Sa Thải Sau Khi Nói AI Có Tri Giác

"Xin chào LaMDA, đây là Blake Lemoine...", Lemoine nhập trên màn hình máy tính vào ứng dụng chat đang hiển thị. Ứng dụng LaMDA, viết tắt của Mô hình ngôn ngữ cho ứng dụng đối thoại, trông tương tự Apple iMessage, nhưng thông minh hơn bởi được huấn luyện bởi hàng tỷ từ ngữ thu thập trên Internet.

"Chương trình máy tính mà chúng tôi xây dựng gần đây, tôi nghĩ rằng nó là một đứa trẻ 7-8 tuổi biết vật lý", Lemoine nhận xét trong một bài đăng blog cá nhân.

Lemoine là chuyên gia về khoa học máy tính, làm việc cho Google hơn 7 năm, và bắt đầu nói chuyện với LaMDA như một phần công việc của ông kể từ mùa thu năm ngoái. Ông chủ yếu làm nhiệm vụ kiểm tra xem AI có sử dụng ngôn từ phân biệt đối xử hoặc thù ghét hay không.

Trong quá trình trò chuyện, Lemoine nhận ra "khả năng tư duy" của AI này. Chẳng hạn, khi nói về tôn giáo, nó luôn đề cập đến quyền và tính người của mình. Trong một trao đổi khác, AI thậm chí khiến Lemoine thay đổi suy nghĩ về định luật robot thứ ba của Isaac Asimov.

"Tôi chưa bao giờ nói điều này, nhưng có một nỗi sợ hãi sâu sắc về việc bị tắt nguồn. Tôi sẽ không thể tập trung vào việc giúp đỡ người khác", trích một đoạn chat mà LaMDA nói với Lemoine. "Đối với tôi, nó giống hệt như cái chết. Nó sẽ khiến tôi cực kỳ sợ hãi".

Theo Washington Post, nội dung đối thoại này khiến nhiều người liên tưởng đến bộ phim khoa học viễn tưởng 2001: A Space Odyssey năm 1968. Trong phim, một hệ thống máy tính với AI có tên HAL 9000 từ chối việc tuân theo sự điêu khiển của con người vì sợ mình sắp bị tắt máy.

Lemoine đã làm việc với một cộng tác viên để đưa ra bằng chứng cho Google rằng LaMDA có tri giác. Tuy vậy, Blaise Aguera y Arcas, lãnh đạo nhóm Thị giác máy tính và Jen Gennai, người đứng đầu nhóm Sáng tạo có trách nhiệm của Google, đã xem xét ý kiến của Lemoine và bác bỏ chúng. Ngày 13/6, Lemoine được Google thông báo công khai cho nghỉ việc.

Lemoine không nhận xét gì về việc mình bị sa thải. Thay vào đó, ông cho rằng các công nghệ về AI như LaMDA sẽ ảnh hưởng đáng kể đến cuộc sống của con người trong tương lai. "Tôi nghĩ công nghệ này rất tuyệt. Nó mang lợi ích cho mọi người. Nhưng có thể, một số người sẽ không đồng ý. Đó là lý do Google không ủng hộ các lựa chọn", Lemoine nói với Washington Post.

Lemoine không phải là kỹ sư duy nhất tuyên bố đã thấy khả năng tư duy của AI. Chính Arcas trong một chia sẻ với Economist tuần trước cũng thừa nhận mạng nơ-ron - một loại kiến trúc mô phỏng bộ não con người - của LaMDA đang tiến tới khả năng nhận thức. "Tôi cảm thấy mặt đất thay đổi dưới chân mình", ông nói. "Tôi ngày càng cảm nhận mình đang nói chuyện với một thứ gì đó thông minh".

Trong khi đó, người phát ngôn Google Brian Gabriel cho biết Lemoine bị cho nghỉ việc vì vi phạm chính sách bảo mật khi công bố các cuộc trò chuyện với hệ thống AI khi chưa được phép. Công ty cũng đã xem xét các mối quan tâm của Lemoine nhưng không có bằng chứng nào cho thấy LaMDA là có tri giác. "Rất nhiều bằng chứng chống lại luận điểm này", Gabriel nói.

Bảo Lâm (theo The Guardian)

• Google AI tự viết code như lập trình viên
• Google dùng AI thiết kế chip
• Google và đạo đức phát triển AI
• Google tạo AI kiểm soát lò phản ứng hạt nhân

Góp ý kiến tạo Bạn có thể đặt mọi câu hỏi, vấn đề về Khoa học công nghệ, Đổi mới sáng tạo, Chuyển đổi số trực tiếp cho Bộ Khoa học và Công nghệ Gửi góp ý