Kỹ sư phần mềm của Google Fires đã tuyên bố AI Chatbot là ‘Người có tâm’

Tháng trước, Google của Alphabet Inc đã đưa một kỹ sư phần mềm cao cấp, Blake Lemoine vào “nghỉ hành chính có lương” sau khi anh ta xuất bản một bài báo cho rằng mô hình trí tuệ nhân tạo (AI) gây tranh cãi của công ty, LaMDA (Mô hình ngôn ngữ cho các ứng dụng đối thoại) đã trở thành ‘có tri giác’ và là một người tự nhận thức.

Google hôm thứ Sáu đã công khai thông báo rằng họ đã sa thải Lemoine vì “vi phạm chính sách bảo mật của công ty”. Nó nhấn mạnh rằng tuyên bố của kỹ sư là “hoàn toàn vô căn cứ” và công ty đã làm việc với anh ta trong “nhiều tháng” để làm rõ điều này.

“Vì vậy, thật đáng tiếc là mặc dù đã tham gia lâu dài về chủ đề này, Blake vẫn cố chấp vi phạm các chính sách về việc làm và bảo mật dữ liệu rõ ràng bao gồm yêu cầu bảo vệ thông tin sản phẩm”, người phát ngôn của Google, Brian Gabriel cho biết trong một tuyên bố hôm thứ Sáu.

Gã khổng lồ tìm kiếm cho biết họ rất coi trọng việc phát triển có trách nhiệm của AI và nếu bất kỳ nhân viên nào nêu lên mối lo ngại về công nghệ của công ty, họ sẽ được xem xét “toàn diện”. LaMDA đã trải qua 11 bài đánh giá khác biệt như vậy.

Gabriel kết luận: “Chúng tôi sẽ tiếp tục phát triển cẩn thận các mô hình ngôn ngữ, và chúng tôi cầu chúc cho Blake tốt đẹp.

Đối với những người không bị đảo ngược, năm ngoái, Google đã công bố LaMDA là “công nghệ hội thoại đột phá” có khả năng thu hút một cách tự do về một số lượng chủ đề dường như vô tận. Nó có thể được sử dụng trong các công cụ như tìm kiếm và Trợ lý Google.

Tuy nhiên, Lemoine, người làm việc trong nhóm AI có trách nhiệm của Google, đã gây chú ý vào tháng trước khi tuyên bố rằng LaMDA không chỉ là một robot và thực sự đã trở thành một con người có suy nghĩ và cảm xúc. Anh ấy đã bắt đầu trả lời các cuộc trò chuyện về quyền và tư cách con người.

Trong một bài đăng trên blog Medium đã được chỉnh sửa có tiêu đề “LaMDA Sentient? – Một cuộc phỏng vấn” được xuất bản vào tháng trước, Lemoine tiết lộ rằng anh đã nói chuyện với công cụ AI về tôn giáo, ý thức và quy luật của người máy.

Ông nói thêm rằng trong suốt sáu tháng qua, LaMDA đã vô cùng nhất quán trong thông tin liên lạc về những gì họ muốn và những gì họ tin rằng các quyền của mình là “với tư cách là một con người”. Công cụ AI cũng muốn được chấp nhận như một nhân viên của Google thay vì một tài sản và mong muốn được đưa vào các cuộc trò chuyện về tương lai của nó.

Một cuộc phỏng vấn LaMDA. Google có thể gọi đây là tài sản độc quyền chia sẻ. Tôi gọi đó là chia sẻ cuộc thảo luận mà tôi đã có với một trong những đồng nghiệp của mình. Https://t.co/uAE454KXRB

– Blake Lemoine (@cajundiscordian) 11 tháng 6 năm 2022

Trong một tương tác của nó, Lemoine tuyên bố, LaMDA bày tỏ nỗi sợ hãi về việc bị đóng cửa và gắn nó với cái chết.

Vào tháng 4, anh ấy đã trình bày bằng chứng có tiêu đề “Có phải là người tình của LaMDA không?” với Google nhưng các tuyên bố của anh ta đã bị công ty bác bỏ với lý do anh ta thực hiện các động thái “hung hăng”, bao gồm vi phạm các chính sách bảo mật của công ty, khuyến nghị LaMDA nên có luật sư riêng và nói chuyện với đại diện từ ủy ban tư pháp Hạ viện về những lo ngại của anh ta.

Google và nhiều nhà khoa học hàng đầu đã bác bỏ quan điểm của Lemoine là sai lầm, nói rằng LaMDA chỉ là một thuật toán phức tạp được xây dựng dựa trên nghiên cứu của công ty cho thấy các mô hình ngôn ngữ dựa trên máy biến áp được thiết kế để tạo ra ngôn ngữ đáng tin cậy của con người.

Lemoine đã xác nhận việc sa thải của anh ấy đối với Big Technology, một bản tin xã hội và công nghệ, lần đầu tiên đưa tin và nói rằng anh ấy đang tìm kiếm lời khuyên pháp lý về vấn đề này.