Các mô hình ngôn ngữ có thể tạo ra văn bản mạch lạc và đúng ngữ pháp, nhưng chúng không thể phát hiện thông tin sai lệch.
Bard, đòn đáp trả của Google với ChatGPT, đã nhanh chóng bị chỉ ra mắc lỗi ở mức độ thấp, điều này cho thấy rằng các hệ thống trí tuệ nhân tạo tương tự không thực sự có “khả năng hiểu”.
Trên blog của Google ngày 6/2, CEO Sundar Pichai lần đầu giới thiệu đến công chúng về Bard. Đây là chatbot đang trong giai đoạn thử nghiệm, được cho là để cạnh tranh với ChatGPT từ OpenAI. Được giới thiệu là mang đến những “phản hồi mới, chất lượng cao”, Bard lại bị phát hiện đưa ra câu trả lời không chính xác ngay trong lần đầu xuất hiện.
Cụ thể, trong bài viết, Pichai nói Bard “có thể là bệ phóng cho sự tò mò”. Ông lấy ví dụ chatbot này có thể giải thích về kính viễn vọng không gian James Webb (JWST) của NASA cho một đứa trẻ, thông qua câu hỏi: “Những khám phá mới nào từ kính viễn vọng không gian James Webb mà tôi có thể nói với đứa con 9 tuổi của mình?”
Đáp lại, Bard đưa ra ba gợi ý mà một đứa trẻ 9 tuổi có thể thích, trong đó có câu: “JWST đã chụp bức ảnh đầu tiên của một hành tinh ngoài hệ Mặt trời. Những thế giới xa xôi này được gọi là exoplanet”.
Theo Telegraph, câu trả lời này không chính xác. Những hành tinh ngoài hệ mặt trời đúng là được gọi với tên “exoplanet”, tuy nhiên bức ảnh đầu tiên về một exoplanet được chụp bởi hệ thống kính viễn vọng Very Large Telescope đặt tại Chile, không phải James Webb. Hình ảnh và thông tin về bức ảnh này hiện được đăng trên trang web của NASA.
Người phát ngôn của Google cho biết, công ty sẽ khởi động chương trình Người kiểm tra đáng tin cậy vào tuần sau, kết hợp phản hồi từ người ngoài và nội bộ hãng để đảm bảo các câu trả lời của Bard “đáp ứng tiêu chuẩn cao về chất lượng, độ an toàn và có căn cứ của thông tin trong thế giới thực”.
Sự cố làm nổi bật một lỗ hổng phổ biến trong hệ thống trí tuệ nhân tạo như Bard: Các hệ thống này không “hiểu” thông tin mà chúng đang đưa ra và chỉ có thể đoán dựa trên xác suất. Và Microsoft đã thừa nhận rằng các chatbot của họ phải đối mặt với những thách thức tương tự.
Mặc dù các mô hình ngôn ngữ có thể tạo ra văn bản mạch lạc và đúng ngữ pháp, nhưng chúng cũng có thể thể hiện thông tin sai lệch.
“Khởi đầu không thuận lợi” của Bard chắc chắn sẽ giáng một đòn mạnh vào Google. Trong phiên giao dịch ngày 8/2, Google đã từng mất gần 10% giá trị thị trường, với khoản lỗ lên tới 140 tỷ USD.