Mô hình AI lần đầu đưa ra quyết định sa thải nhân viên

Theo đài Sputnik (Nga), tháng 3 vừa qua, Andon Labs bắt đầu thử nghiệm nhằm đánh giá liệu một tác nhân AI có thể tự chủ điều hành một doanh nghiệp hay không, đồng thời xem xét tác động của những hệ thống này đối với nền kinh tế. Trong thử nghiệm, Claude, mô hình AI do Anthropic phát triển, được giao quản lý cửa hàng Andon Market tại San Francisco.

Quyết định sa thải được đưa ra vào tháng trước. Theo Andon Labs, nhân viên này đi làm muộn 17 trong tổng số 23 ca làm việc. Tuy nhiên, Claude đã không phát hiện ra tình trạng này trong một thời gian dài, do sổ tay nhân viên mà mô hình tự xây dựng đã “biến mất” khỏi bộ nhớ làm việc vốn có dung lượng hạn chế của hệ thống, theo báo cáo.

Giám đốc điều hành Andon Labs Lukas Petersson thừa nhận rằng quyết định trên không hoàn toàn do Claude tự đưa ra. Một nhân viên của Andon Labs trước đó đã yêu cầu Claude tìm lại cuốn sổ tay mà mô hình không còn lưu giữ và phân tích tình huống. Ban đầu, Claude chỉ đề xuất gửi cảnh cáo chính thức đối với nhân viên này. Chỉ sau khi một quản lý đặt câu hỏi gợi ý về việc liệu nhân viên đó có thực sự phù hợp với công việc hay không, Claude mới quyết định sa thải.

Nhìn chung, Claude được đánh giá là một nhà quản lý khá dễ dãi. Trước đó, mô hình này từng nói với các nhân viên rằng họ không cần quá lo lắng nếu đi làm muộn.

Theo báo cáo, kết quả thử nghiệm cho thấy AI chưa chứng tỏ hiệu quả quản lý doanh nghiệp cao hơn con người. Khi bắt đầu thử nghiệm vào tháng 3, cửa hàng có 100.000 USD vốn ban đầu. Sau 5 tháng, số tiền này giảm xuống còn khoảng 61.000 USD.

Các nhà nghiên cứu cho rằng cách quản lý quá dễ dãi cùng những quyết định kinh doanh đáng ngờ của Claude có thể là nguyên nhân dẫn đến sự sụt giảm này.