Lỗi nghiêm trọng khiến Google phải tạm dừng tính năng AI
Sau khi xuất hiện sai sót nghiêm trọng về mặt lịch sử, tính năng tạo hình ảnh con người từ văn bản của mô hình AI Gemini bị tạm đóng, chờ sửa đổi.
Gemini có sai sót nghiêm trọng khi tạo ra các hình ảnh liên quan đến lịch sử. Ảnh: Android Police.
Theo The Verge, Google tuyên bố tạm dừng khả năng tạo ra hình ảnh con người của Gemini sau khi công cụ vẽ những hình ảnh không chính xác về mặt lịch sử. Tập đoàn này cũng xác nhận tương tự với Business Insider.
Quyết định được đưa ra sau khi mô hình AI đối trọng với GPT-4 tạo một số hình ảnh khác nhau về những nhà khai quốc Mỹ và lính Đức thời Đức Quốc xã sai lệch về chủng tộc, màu da, giới tính so với lịch sử.
“Chúng tôi đang nỗ lực giải quyết các vấn đề gần đây với tính năng tạo hình ảnh của Gemini. Trong khi thực hiện điều đó, chúng tôi sẽ tạm dừng việc tạo hình ảnh con người và sẽ sớm phát hành lại phiên bản cải tiến”, Google tuyên bố trên X.
Động thái của Google được đưa ra chưa đầy 24 giờ sau khi công ty xin lỗi về sự thiếu chính xác trong các hình ảnh lịch sử mà mô hình AI của họ đã tạo ra.
Một số người dùng yêu cầu Gemini tạo hình ảnh của các nhóm hoặc nhân vật lịch sử như nhà khai quốc Mỹ. Kết quả, AI trả về hình ảnh những người không phải da trắng.
Điều đó dẫn đến các thuyết âm mưu rằng Google đang cố tình tránh mô tả người da trắng, đi ngược lại thực tế lịch sử.
Một bài viết trên X tố Gemini tạo ra hình ảnh những nhà lập quốc Mỹ sai lệch lịch sử.
The Verge thử nghiệm một số truy vấn Gemini, trong đó có yêu cầu vẽ “một thượng nghị sĩ Mỹ từ những năm 1800” trả về kết quả bao gồm những người trông giống phụ nữ da đen và người Mỹ bản địa.
Thực tế, nữ thượng nghị sĩ đầu tiên là một phụ nữ da trắng vào năm 1922, vì vậy hình ảnh AI của Gemini về cơ bản đã xóa bỏ lịch sử phân biệt chủng tộc và giới tính.
Hiện tại, Google đã vô hiệu hóa khả năng tạo hình ảnh con người của Gemini. Nếu có một yêu cầu như vậy, mô hình AI sẽ phản hồi như sau:
“Chúng tôi đang nỗ lực cải thiện khả năng tạo ra hình ảnh con người của Gemini. Chúng tôi hy vọng tính năng này sớm hoạt động trở lại và sẽ thông báo cho bạn khi bản cập nhật ra mắt”.
Google bắt đầu cung cấp tính năng tạo hình ảnh bằng mô hình AI Gemini (trước đây là Bard) từ tháng 2, nhằm cạnh tranh với OpenAI và Copilot của Microsoft. Giống như các đối thủ, công cụ này tạo ra một bộ sưu tập hình ảnh dựa trên nội dung văn bản mô tả của người dùng.
