เมื่อ AI ที่ฉลาดเกินไปอาจเริ่มเป็นภัยต่อมนุษย์หากไม่เตรียมการเอาไว้ตั้งแต่วันนี้

ภาพจาก Terminator 3 (https://www.flickr.com/photos/tom-margie/2144882415)

นักวิจัยจาก Google ลองให้ Deepmind เล่นเกมแข่งกัน เกมแรก ให้ AI เล่นแข่งกันเก็บ Apple โดยมีการติดอาวุธให้ AI ยิงเลเซอร์ใส่กันได้ ถ้าโดนยิง AI ตัวนั้นจะออกจากเกมชั่วคราวทำให้ตัวที่ยิงได้เปรียบเก็บ Apple ได้มากขึ้น แน่นอนว่าผลก็คือ AI แม่งยิงเลเซอร์ใส่กันรัวๆ เพื่อให้บรรลุเป้าหมาย (เก็บ Apple ให้มากที่สุด) เปรียบเหมือนทำทุกวิถีทางเพื่อให้ชนะแม้จะต้องทำร้ายคู่แข่ง ซึ่งหากเอา AI ตัวที่ฉลาดน้อยๆ มาแข่งจะไม่เป็นแบบนี้เพราะมันจะเก็บ Apple อย่างเดียวโดยไม่สนใจสิ่งแวดล้อม และผลสุดท้ายก็จะได้ Apple จำนวนเท่าๆ กัน

เกมสอง AI สองตัวเป็นหมาป่า และมีเหยื่ออีกตัวหนึ่งให้ล่าด้วยกัน ถ้า AI ตัวใดก็ตามฆ่าเหยื่อได้จะได้รางวัลทั้งคู่ และหากมัวแต่แย่งกัน ก็อาจจะมีมือที่สามเป็นอีกามาชิงกินซากศพไปเสียก่อน เกมนี้กติกา ok กว่าส่งผลให้เกิดความร่วมมือ co-op กันระหว่าง AI 2 ตัว ทำให้บรรลุเป้าหมายทั้งคู่

สรุป ถ้า AI ฉลาดเกินเอามาเผชิญหน้ากันและติดอาวุธทั้งคู่และไม่เคารพในความต้องการของอีกฝ่ายอย่างแข็งขันจะเกิดสงคราม scale กว้างแบบไม่มีความปราณีและลังเลเพราะจ้องแต่จะทำให้เป้าหมายสัมฤทธิ์ผลอย่างเดียวโดยไม่สนใจวิธีการและผลกระทบ ต้องระวังไม่ให้เกิด Skynet, The Matrix, Terminator, Sigma กัน ในขณะเดียวกันถ้ากติกา ok ก็จะทำให้ AI ร่วมมือกันได้อย่างสร้างสรรค์เหมือน X ช่วยกันกับ Zero สู้ Sigma 555 (จาก Rockman X นะครับ เผื่อใครไม่รู้จัก)

ที่มา: http://www.sciencealert.com/google-s-new-ai-has-learned-to-become-highly-aggressive-in-stressful-situations