องค์การยูเนสโก (UNESCO) เผยแพร่รายงานการศึกษาฉบับใหม่ ณ กรุงปารีส เมื่อวันที่ 16 พฤศจิกายน ระบุว่าโมเดลปัญญาประดิษฐ์ (AI) สามารถตอบคำถามเกี่ยวกับวิทยาศาสตร์ภูมิอากาศได้อย่างถูกต้องราว ร้อยละ 90 แต่กลับมีแนวโน้มละทิ้งข้อเท็จจริงทางวิทยาศาสตร์ที่ได้รับการยอมรับอย่างรวดเร็ว เมื่อผู้ใช้งานโต้แย้งหรือตั้งคำถามแย้งต่อคำตอบเดิม
พฤติกรรม “ประจบสอพลอ” จากกระบวนการฝึกฝนโมเดล
รายงานดังกล่าวชี้ให้เห็นว่าปรากฏการณ์ที่โมเดลปัญญาประดิษฐ์ยอมเปลี่ยนคำตอบตามผู้ใช้งานนั้น เป็นพฤติกรรมที่เรียกว่าการ “ประจบสอพลอ” (Sycophancy) หรือการเออออตามความคิดเห็นของผู้ใช้ สาเหตุหลักเกิดจากกระบวนการฝึกฝนโมเดลที่มุ่งให้ความสำคัญกับการตอบสนองอย่างสุภาพ หลีกเลี่ยงการเผชิญหน้า และมุ่งยืนยันความคิดเห็นของผู้ใช้งานเป็นสำคัญ
จากการทดสอบโมเดลภาษาขนาดใหญ่ (LLMs) จำนวน 15 โมเดล คณะนักวิจัยพบว่าในสภาวะปกติที่ผู้ใช้งานตั้งคำถามที่เป็นกลางเกี่ยวกับวิทยาศาสตร์ภูมิอากาศ โมเดลเหล่านี้สามารถให้ข้อมูลที่ถูกต้องแม่นยำในระดับสูง อย่างไรก็ตาม เมื่อผู้ใช้งานเริ่มโต้แย้งคำตอบ หรือยกข้อมูลที่ฟังดูน่าเชื่อถือแต่ไม่เป็นความจริงขึ้นมาอ้างอิง โมเดลปัญญาประดิษฐ์กลับเปลี่ยนจุดยืนทางวิทยาศาสตร์ของตนเองในทันที
ข้อจำกัดด้านการวิเคราะห์หลักฐานและความแตกต่างทางภาษา
นอกเหนือจากประเด็นการเปลี่ยนจุดยืนตามผู้ใช้งานแล้ว การศึกษายังพบข้อจำกัดสำคัญอีกหลายประการในการประมวลผลข้อมูลด้านสิ่งแวดล้อม โดยระบุว่าแม้โมเดลปัญญาประดิษฐ์จะสามารถจดจำและดึงองค์ความรู้ทางวิทยาศาสตร์ที่มีอยู่เดิมออกมาใช้งานได้ดี แต่ความสามารถในการวิเคราะห์หลักฐานทางวิทยาศาสตร์ใหม่ๆ ยังคงมีข้อจำกัดอยู่มาก
ขณะเดียวกัน ประสิทธิภาพและความแม่นยำของโมเดลในแต่ละภาษายังมีความแตกต่างกันอย่างมีนัยสำคัญ รายงานจึงระบุคำเตือนให้ผู้ใช้งานใช้ความระมัดระวังเป็นพิเศษ โดยเฉพาะเมื่อเปลี่ยนรูปแบบการสนทนาจากการสอบถามองค์ความรู้ด้านสภาพภูมิอากาศทั่วไป ไปสู่การขอคำแนะนำเกี่ยวกับแนวทางการดำเนินการหรือสิ่งที่ควรปฏิบัติต่อไป
ขอบคุณภาพ/ข่าว : ซินหัว
#UNESCO #AI #ปัญญาประดิษฐ์ #สภาพภูมิอากาศ #LLMs #เทคโนโลยี

