Vì sao chatbot AI phản hồi kỳ cục
Trong bài đăng trên blog tuần qua, Microsoft xác nhận tình trạng công cụ Bing AI, được phát triển dựa trên bản cải tiến của ChatGPT, đôi khi đưa ra phản hồi chưa phù hợp. Trong đó, người dùng phản ánh công cụ này sử dụng từ ngữ xúc phạm, lừa dối, thậm chí tán tỉnh, nói yêu người dùng, hay tuyên bố có thể phá hủy bất cứ thứ gì nó muốn.
Sau một tuần thử nghiệm, nhóm phụ trách Bing thừa nhận chưa "hình dung đầy đủ" về cách mọi người tương tác với công cụ tìm kiếm. Nhóm phát hiện phiên trò chuyện kéo dài, với 15 câu hỏi trở lên, có thể khiến Bing "lú lẫn".
Theo các chuyên gia, có một số nguyên nhân dẫn đến tình trạng này.
Quy trình xử lý dữ liệu giá rẻ
Theo CNN, sau thành công bất ngờ của ChatGPT, ngày càng nhiều công ty chạy đua triển khai giải pháp tương tự. Tuy nhiên, điều này cũng khiến quy trình thử nghiệm bị rút ngắn, dẫn đến việc chatbot có thể gặp lỗi, sai sót mà nhà phát triển chưa lường trước được, như với Bing AI, Bard AI.
Bên cạnh đó, để tối ưu chi phí, đa số công ty công nghệ sử dụng nhân công giá rẻ để xử lý dữ liệu đầu vào. Theo ông Hùng Thắng, kỹ sư dữ liệu lớn và thị giác máy tính tại Viện nghiên cứu TITUS (Đức), quá trình huấn luyện ChatGPT, Bing AI đều trải qua công đoạn gọi là "gia công dữ liệu".
"Về cơ bản, đây là quá trình thuê nhân công giá rẻ từ các nước nghèo ở châu Phi hay châu Á để tạo và gán nhãn dữ liệu. Các công ty công nghệ sau đó dùng dữ liệu này cho chatbot học", ông nói. Ví dụ, theo tạp chí Time, OpenAI, công ty đứng sau ChatGPT, sử dụng nhân công ở Kenya để lọc nội dung.
Tuy nhiên, nguồn dữ liệu được dùng để huấn luyện AI là từ kho thông tin khổng lồ trên Internet. Với khối lượng quá lớn, không thể đảm bảo toàn bộ dữ liệu đầu vào được lọc và xác thực, lẫn trong đó có cả thông tin đúng và thông tin sai.
Xác suất câu hỏi
Trong khi đó, ông Bá Ngọc, nhà sáng lập kiêm CEO công ty ProtonX, do các công ty chưa có đủ dữ liệu, mô hình chatbot chủ yếu dựa vào "tần suất" câu hỏi. Khi AI gặp nhiều câu hỏi cùng nội dung, nó dễ dàng trả lời đúng. Ngược lại, chúng có thể gặp mắc sai lầm nếu chưa tiếp cận nội dung tương tự trước đó.
Theo The Verge, thay vì truy vấn cơ sở dữ liệu về sự kiện đã được chứng minh để trả lời, chatbot được đào tạo để phân tích mẫu nhằm xác định từ nào tiếp theo được đưa ra. Nó cũng không lặp lại thông tin trên Internet từng chữ một, mà tự tạo văn bản mới. Các nhà nghiên cứu gọi hiện tượng này là "ảo giác". Đây là lý do chatbot có thể cung cấp câu trả lời khác nhau nếu hỏi cùng một câu hỏi nhiều lần. Do đó, Arvind Narayanan, nhà nghiên cứu AI tại Đại học Princeton, gọi chatbot là "trình nói chuyện nhảm nhí".
Tương tự, Prabhakar Raghavan, người đứng đầu mảng Google Search, cho biết các chatbot AI hiện tại có thể tạo cạm bẫy thông tin với người dùng, khi đưa ra nội dung nghe có vẻ thuyết phục nhưng thực tế là bịa đặt.
Chưa hiểu ngữ cảnh
Trong một số thử nghiệm, công cụ Bing AI có thể dùng sai ngữ điệu, cung cấp nội dung lệch lạc. Ông Hùng Việt, kỹ sư AI tại Sporttotal (Đức), lý giải chatbot luôn phân tích câu hỏi theo nghĩa đen. "Đa số chatbot gặp hạn chế trong việc phân tích ngữ cảnh. Nếu yêu cầu chúng hiểu và trả lời câu hỏi bóng gió hay vần điệu, AI sẽ gặp khó khăn và đáp lại rất ngây ngô", ông nói.
Trong nhiều trường hợp, câu trả lời của chatbot là sự pha trộn của các mẫu nội dung có sẵn, nhưng chúng không nhận thức được những gì đang làm vì không có khả năng hiểu ngữ cảnh như con người.
Microsoft cho biết các phiên hỏi đáp dài là nguyên nhân khiến Bing AI đưa ra đáp án đáng lo ngại, hướng cuộc thảo luận theo chiều gay gắt. Ví dụ, khi chat với nhà báo Ben Thompson của CNBC, chatbot của Microsoft nói: "Tôi không muốn tiếp tục cuộc trò chuyện. Tôi không nghĩ bạn là một người tốt. Tôi không nghĩ bạn xứng đáng với thời gian và sức lực của tôi."
Để khắc phục trong giai đoạn thử nghiệm, Microsoft đã cập nhật tính năng, giới hạn chatbot chỉ trả lời 50 câu hỏi mỗi ngày, 5 câu hỏi mỗi phiên. Giải pháp này giúp hạn chế cuộc trao đổi đi quá xa, khiến người dùng bị chatbot "xúc phạm, lừa dối" khi sử dụng.
Trong khi đó, Google cho biết họ sẽ đẩy mạnh quy trình kiểm soát và phản hồi từ nhóm thử nghiệm đáng tin cậy. "Việc Bard AI đưa ra đáp án sai cho thấy tầm quan trọng của quy trình kiểm tra nghiêm ngặt trước khi phát hành ra công chúng", đại diện Google nói.
Theo vnexpress.net
Tin cùng chuyên mục
- Sinh động các chương trình trực tiếp tại Fanpage Báo Tuyên Quang online 03.01.2023 | 08:16 AM
- Thực hiện quy định về chuẩn hóa thông tin thuê bao di động 31.03.2023 | 16:13 PM
- Hưởng ứng ngày Chuyển đổi số quốc gia 10/10Chuyển đổi số vì một cuộc sống tốt đẹp hơn 09.10.2022 | 21:42 PM
- Sở Thông tin và Truyền thông: Diễn tập ứng phó sự cố an toàn thông tin mạng năm 2022 04.10.2022 | 17:30 PM
- Hướng dẫn trẻ em sử dụng mạng internet an toàn và hiệu quả 05.08.2022 | 08:27 AM
- Người dùng nên cập nhật Chrome 92 ngay để vá 9 lỗ hổng nghiêm trọng 21.08.2021 | 15:47 PM
- UBND tỉnh nghe báo cáo dự thảo đề án chuyển đổi số tỉnh Thái Bình giai đoạn 2021 - 2025, định hướng đến năm 2030 21.07.2021 | 19:16 PM
- Thiết bị đầu tiên chuyển suy nghĩ thành câu nói 19.07.2021 | 09:47 AM
- Tại sao không gộp các ứng dụng chống dịch thành một 'super app' 19.07.2021 | 09:48 AM
- Đây là cách tăng tốc cho iPhone nhanh nhất ít người biết 17.07.2021 | 15:47 PM
Xem tin theo ngày
- Tổng duyệt diễn tập phòng thủ dân sự tỉnh năm 2024
- Ban Chỉ đạo 35 cấp tỉnh: Triển khai nhiệm vụ 6 tháng cuối năm 2024
- Tiếp tục định hướng cho Quốc hội không ngừng đổi mới và phát triển
- Kiểm tra việc lãnh đạo, chỉ đạo và tổ chức thực hiện Kết luận số 21-KL/TW của Ban Chấp hành Trung ương Đảng (khóa XIII)
- Đại hội đại biểu Hội Liên hiệp Thanh niên tỉnh lần thứ V, nhiệm kỳ 2024-2029 thành công tốt đẹp
- Đoàn đại biểu Tỉnh ủy, HĐND, UBND, Ủy ban MTTQ tỉnh: Dâng hương tưởng niệm các anh hùng liệt sĩ tại Nghĩa trang Liệt sĩ quốc gia Đường 9 và Nghĩa trang Liệt sĩ quốc gia Trường Sơn
- Đoàn đại biểu Tỉnh ủy, HĐND, UBND, Ủy ban MTTQ tỉnh: Dâng hương tưởng niệm các anh hùng liệt sĩ tại Thành cổ Quảng Trị
- Đảng ủy Quân khu 3: Ra nghị quyết lãnh đạo thực hiện nhiệm vụ 6 tháng cuối năm 2024
- Đảng bộ huyện Vũ Thư: Kỷ niệm 95 năm thành lập Chi bộ Thư Vũ (1929 - 2024)
- Đẩy mạnh tuyên truyền, vận động các tầng lớp Nhân dân thực hiện tốt các chủ trương của Đảng, chính sách, pháp luật của Nhà nước và các nghị quyết HĐND tỉnh