We Need to Talk About A.I

ถ้าเราสร้างปัญญาประดิษฐ์ทั่วไป

นั่นจะเป็นเหตุการณ์สำคัญที่สุด ในประวัติศาสตร์สิ่งมีชีวิตบนโลก

สติปัญญาต่างด้าว ภายในระบบคอมพิวเตอร์

ที่ควบคุมทั้งโลกได้ ตั้งแต่วันที่มันมาถึง

นิยายวิทยาศาสตร์และภาพยนตร์ เปิดทางให้มันไว้ล่วงหน้า

(เครื่องจักร ที่เหนือกว่ามนุษย์ทุกด้าน)

(ปัญญาของมนุษย์ ปะทะปัญญาประดิษฐ์ทั่วไป)

มีปัญหาอะไร

คุณรู้ดีว่าปัญหาคืออะไร ไม่ต่างจากผม

นายพูดเรื่องอะไร ฮาล

ภารกิจนี้สำคัญต่อผม เกินกว่าจะปล่อยให้คุณทำลายมัน

ฉันไม่รู้ว่านายพูดถึงอะไร ฮาล

ฮาล คอมพิวเตอร์ ที่มีสติปัญญาระดับสูง

ปัจจุบันเราเรียกมันว่าเอไอ

ตัวละครของผม เดฟ เป็นนักบินอวกาศ

ในภาพยนตร์ที่ทำนายอนาคต ได้แม่นยำที่สุดเรื่องหนึ่ง

เกี่ยวกับอันตรายที่ปัญญาประดิษฐ์ มีต่อมนุษยชาติ

ฮาลเคยเป็นแค่นิยายวิทยาศาสตร์ แต่ตอนนี้เอไออยู่รอบตัวเรา

ปัญญาประดิษฐ์ไม่ใช่อนาคต ปัจจุบันเอไออยู่กับเราแล้ว

สัปดาห์นี้หุ่นยนต์ท้าชิงตำแหน่ง เทศมนตรีในเมืองเล็กๆ ของญี่ปุ่น

ทำเนียบขาวกล่าวว่า กำลังสร้างหน่วยเฉพาะกิจใหม่

เพื่อจับตาดูปัญญาประดิษฐ์

กูเกิลประกาศแผนการลงทุน ในการวิจัยเอไอเพิ่ม

ไอบีเอ็มส่งหุ่นยนต์ปัญญาประดิษฐ์ ขึ้นไปในอวกาศ

เนื่องจากบทบาทเล็กๆ ของผม ในการพูดคุยเรื่องนี้

ผมเข้าใจว่าเราอยู่ในการเดินทาง

ที่เริ่มต้นจากเอไอเชิงแคบ

เครื่องจักรที่ทำหน้าที่เฉพาะทาง ได้ดีกว่าเรา

แต่เอไอในนิยายวิทยาศาสตร์ เป็นปัญญาประดิษฐ์ทั่วไป

เครื่องจักรที่ทำทุกอย่าง ได้ดีกว่าเรา

เอไอเชิงแคบเป็นเหมือน นักวิชาการเฉพาะทางที่สุดโต่ง

(ศ.แม็กซ์ เทกมาร์ก นักฟิสิกส์ ดาราศาสตร์ นักวิจัยเอไอ เอ็มไอที)

ที่สามารถทำเรื่องอย่าง คูณเลขเยอะๆ ได้อย่างรวดเร็ว

เก่งกว่ามนุษย์มาก

แต่ทำอย่างอื่นไม่ได้เลย

แต่เอจีไอ ปัญญาประดิษฐ์ทั่วไป

ซึ่งยังไม่มีอยู่จริง

คือปัญญาประดิษฐ์ ที่ทำทุกอย่างได้ดีพอๆ กับมนุษย์

แล้วจะเกิดอะไรขึ้น ถ้าเราสร้างเอจีไอขึ้นมา

นักเขียนนิยายวิทยาศาสตร์เตือนเรา ว่าอาจเกิดอันตรายได้

แล้วพวกเขา ก็ไม่ใช่เพียงกลุ่มเดียวด้วย

ผมคิดว่าผู้คนควรกังวลเรื่องนี้

เอไอเป็นภัยต่อการดำรงอยู่ ของอารยธรรมมนุษย์

ผมว่าผู้คน ยังไม่เข้าใจเรื่องนี้ดีนัก

ผมว่าเราต้องกังวลนะ

พอเราสร้างปัญญาประดิษฐ์ ระดับสูงออกมา

มันไม่จำเป็นต้องมี เป้าหมายเดียวกับเราเสมอไป

ผมคิดว่าการพัฒนาปัญญาประดิษฐ์ เต็มรูปแบบออกมา

อาจเป็นจุดจบของมนุษยชาติได้

พรุ่งนี้ ถ้าพาดหัวข่าวบอกว่า

"มีการสร้างปัญญาประดิษฐ์...

(เจมส์ คาเมรอน นักสร้างภาพยนตร์ นักสำรวจ)

ที่ฉลาดกว่า หรือฉลาดพอๆ กับมนุษย์"

ผู้คนคงถกเถียงกัน แต่คงไม่มีใครแปลกใจ

เพราะนิยายวิทยาศาสตร์ ช่วยให้เราจินตนาการ

สารพัดสิ่งที่เกินกว่าจะนึกฝันได้

ผู้เชี่ยวชาญมีความเห็นต่างกัน ว่าเอไอจะมีผลต่ออนาคตของเราอย่างไร

และฮอลลีวู้ดช่วยเรา วางแผนรับมือหรือไม่

การแลกเปลี่ยนความคิดของเรา ถูกฮอลลีวู้ดช่วงชิงไป

เพราะ "ฅนเหล็ก" ทำเงินได้ดีกว่า

(ซีอีโอ สถาบันอัลเลน เพื่อปัญญาประดิษฐ์)

เอไอฝ่ายดี เป็นกลาง หรือสับสน

เทคโนโลยีบนโลกนี้ รวมทั้งเอไอ ต่างเป็นเครื่องมือ

ผมชอบคิดว่ามันเป็นดินสอแพงๆ

เราจะใช้มันวาดอะไรออกมา นั่นก็ขึ้นอยู่กับสังคมของเรา

เราไม่จำเป็นต้องทำตามเอไอสั่ง เราเป็นคนสั่งให้เอไอทำ

ผมคิดว่าหนังฮอลลีวู้ด ช่วยให้เกิดการสนทนา

ต้องมีคนคิดถึง ผลลัพธ์ที่ตามมาล่วงหน้า

(เดวิด มาโลน นักจัดรายการวิทยาศาสตร์)

แต่เนื่องจากเราจินตนาการไม่ออกว่า

วิทยาศาสตร์ในอนาคตจะเป็นอย่างไร

เราจึงคิดไม่ออกว่า

อนาคตที่เป็นไปได้มีอะไรบ้าง

อนาคตที่น่าจะเป็นผล มาจากเทคโนโลยีนี้

ปัญญาประดิษฐ์มีพลังเปลี่ยนแปลงสังคม

การวิพากษ์วิจารณ์ที่เพิ่มขึ้น เน้นย้ำถึงอันตราย

จากการให้เครื่องจักรเข้าควบคุม

จะมีการเปลี่ยนแปลงมากมายเกิดขึ้น

ที่น่ากังวลยิ่งกว่าในระยะยาว

คือมนุษยชาติจะถูกกีดกันออกไป

สิ่งที่สแตนลีย์ คูบริกและหลายคน เป็นกังวลตั้งแต่ 50 ปีก่อน

มันกำลังมาแล้ว

การพูดคุยเรื่องนี้ควรเร่งด่วนแค่ไหน

ถ้าตอนนี้คนเห็นบนเรดาร์

ว่ามียานต่างดาวกำลังมุ่งหน้ามาโลก และอยู่ห่างไป 25 ปี

(ดร.หลุยส์ โรเซนเบิร์ก ซีอีโอยูนานิมัสเอไอ)

เราคงเริ่มเตรียมการรับมือ มนุษย์ต่างดาวตั้งแต่ตอนนี้แล้ว

แต่นั่นคือสถานการณ์ที่เราเผชิญ กับปัญญาประดิษฐ์

อาจจะอีก 25 ปี หรือ 50 ปี แต่ปัญญาประดิษฐ์ต่างด้าวมาถึงแน่ๆ

และเราควรเตรียมตัวไว้

ทุกท่านครับ นี่คือโทบอร์ หุ่นไฟฟ้าเลียนแบบมนุษย์

ให้ตายสิ แย่แล้ว

แม้ว่ายังต้องทำอะไรอีกมาก กว่าเขาจะสมบูรณ์

แต่เขาก็มีความรู้สึกแล้ว

ย้อนกลับไปปี 1956

ที่มีการใช้คำว่า "ปัญญาประดิษฐ์" เป็นครั้งแรก

เป้าหมายเดิมของปัญญาประดิษฐ์คือ

ปัญญาระดับเดียวกับมนุษย์

(ศ.กิตติคุณร็อดนีย์ บรูกส์ วิทยาการหุ่นยนต์ เอ็มไอที)

เขาก็ดูจะใจดีอยู่นะคะ

เมื่อเวลาผ่านไป ก็เห็นชัดว่าเป็นเรื่องยาก

ผมว่าในที่สุด เราจะมีเครื่องจักร ที่มีปัญญาระดับมนุษย์

แต่อาจต้องใช้เวลาสองสามร้อยปี อีกนานเชียวล่ะ

ผู้คนดูจะตื่นเต้นเกินไปหน่อย

เรื่องความสามารถในอนาคต

ทีนี้ อิเล็กโตร ฉันขอสั่งให้แกเดินถอยหลัง

ถอย

คนแทบทุกรุ่นจะรู้สึกคึกคักขึ้นมา

พวกเขาดู "2001 จอมจักรวาล" แล้วก็หลงรักฮาล

พวกเขาคิดว่า "ขอหกสัปดาห์ ฉันจะทำมันให้ได้"

แต่ก็ทำไม่ได้ แล้วทุกคนก็หัวเสีย

แล้วมีอะไรเปลี่ยนไป ในการวิจัยเอไอบ้าง

ความแตกต่างของเอไอ ที่เรามีในปัจจุบัน

และเหตุผลที่จู่ๆ เอไอ ก้าวหน้าขึ้นมามาก

ก็คืออินเทอร์เน็ต นั่นคือโลกของพวกมัน

คืนนี้ สุดยอดเส้นทางการส่งข้อมูล และทางหลวงสายหลักของมัน

คือเครือข่ายออนไลน์ ที่เรียกว่า "อินเทอร์เน็ต"

ปี 1981 มีคอมพิวเตอร์ 213 เครื่อง ที่เชื่อมต่ออินเทอร์เน็ต

แต่เมื่อปีใหม่นี้เริ่มขึ้น

ก็ประมาณการว่าจะมีคอมพิวเตอร์ 2.5 ล้านเครื่องบนเครือข่าย

เอไอต้องกินครับ

เหมือนแกะที่ต้องกินหญ้า เอไอต้องกินข้อมูล

และแหล่งข้อมูลที่กว้างใหญ่ ก็อยู่บนอินเทอร์เน็ต

มันเป็นแบบนั้นจริงๆ

แล้วพวกเขาก็บอกว่า "ปล่อยพวกมันไว้บนนั้นแล้วกัน"

ทันใดนั้นเอไอก็มีชีวิตขึ้นมา

ลองนึกภาพ หุ่นยนต์พูดได้นับพัน สามารถเคลื่อนที่ได้เป็นหน่วยเดียว

เข้าไปจัดการอาชญากรรม ไฟไหม้ และหายนะทางธรรมชาติ

แพลตฟอร์มปัญญาประดิษฐ์ แอมเปอร์ สร้างอัลบั้มแรกขึ้นมา

แต่งเพลงและผลิต โดยปัญญาประดิษฐ์ทั้งหมด

สัปดาห์หน้า คริสตี้จะเป็น สถาบันประมูลแรก

ที่เสนอขายงานศิลปะ ที่สร้างโดยปัญญาประดิษฐ์

รถไร้คนขับจะกลายเป็น อนาคตอันใกล้ของเรา

แม้ว่าเราจะยังไม่มีเอจีไอ หรือปัญญาประดิษฐ์ระดับมนุษย์

แต่เราพร้อมที่จะให้เครื่องจักร ที่เรามีอยู่ ปกครองตัวเองหรือยัง

รถขับเองจะตัดสินใจ เชิงจริยธรรมได้ไหม

นั่นคือข้อถกเถียง เมื่อเทคโนโลยี

ใกล้จะกลายเป็นความจริงขึ้นมาทุกที

(รถไร้คนขับควรตัดสินใจ เชิงจริยธรรมไหม)

แนวคิดที่ว่า

เราปลูกฝังจริยธรรม ในเครื่องจักรได้ไหม

(ดร.แมรี่ คัมมิงส์ ศูนย์วิจัยมนุษย์และอัตตาณัติ)

ไม่ว่าจะเป็นเครื่องจักรอัตโนมัติ หรือเครื่องจักรที่ตัดสินใจเองได้

ฉันว่าเรายังหาคำตอบไม่ได้

รถขับเองได้ จะต้องตัดสินใจเชิงจริยธรรม

(ดร.สตีฟ โอโมฮันโดร หัวหน้านักวิทยาศาสตร์เอไอเบรนอิงก์)

ปัญหาคลาสสิก ที่ผู้คนคำนึงถึงกันมากคือ...

เคยได้ยินเรื่องปัญหารถรางไหม

- ปัญหารถราง - ปัญหารถราง

- ปัญหารถราง - ปัญหารถราง

ในปัญหารถราง

รถไร้คนขับจะช่วยคนนั่งรถ

หรือจะขับชนกลุ่มนักเรียน ที่กำลังข้ามถนน

รถจะหักขวาแล้วชนหญิงชรา

หรือจะหักซ้ายแล้วฆ่าเด็กสี่คนแทน

มันจะฆ่าคนห้าคนบนป้ายรถเมล์ หรือจะฆ่าคุณเอง

นั่นคือการตัดสินใจเชิงจริยธรรม ที่ต้องทำเดี๋ยวนั้น

มันขับเร็วเกินกว่า ที่ใครจะแทรกแซงได้

ดังนั้นซอฟต์แวร์ในรถขับเองได้

จะต้องตัดสินใจเชิงจริยธรรม

แล้วใครคือคนตัดสินใจ

สังคมที่มีปัญญา สังคมที่เห็นค่าชีวิตมนุษย์

ควรตัดสินใจได้ว่า การฆ่าคนหนึ่งคน ย่อมดีกว่าการฆ่าห้าคน

นั่นทำให้เกิดคำถามว่า ใครจะซื้อรถคันนั้น

คุณจะซื้อรถที่

มันหักเลี้ยว แล้วคุณปลอดภัย แต่คนอื่นตายเหรอ

มีคำถามทำนองนี้นับร้อย เกิดขึ้นในสังคม

แล้วนักจริยศาสตร์ก็เถียงกันไปมา

สิ่งที่ผมหงุดหงิดกับพวกนักปรัชญา

คือพวกเขาทำให้บรรยากาศน่าอึดอัด

ผมมีการเปรียบเปรยที่ว่า

คุณมีรถ ขับออกจากงานแต่งงาน

รถก็วิ่งไป แล้วข้างหลังมีกระป๋อง

กระป๋องโลหะพวกนี้ ส่งเสียงดังก๊อกแก๊ก

รถคันนี้คือวิทยาศาสตร์และเทคโนโลยี ที่ขับไปข้างหน้าอย่างแน่วแน่

แล้วกระป๋องโลหะคือนักปรัชญา ที่เอาแต่ส่งเสียงดัง

โลกนี้เปลี่ยนไปในแบบที่...

(ฟิสิกส์และดาราศาสตร์ วิทยาลัยดาร์ตมัธ)

การสร้างเครื่องจักร

ที่อาจฉลาดกว่าเรา

มีโอกาสเป็นความจริง มากกว่านิยายแล้ว

เราต้องตั้งคำถามตั้งแต่ตอนนี้ไหม

ก่อนที่เครื่องจักรจะฉลาดกว่าเรา

ถ้าเกิดพวกมันมีจิตสำนึกขึ้นมาล่ะ

อีกไกลแค่ไหนกว่าจะเป็นไปได้

เครื่องจักรใกล้จะมีจิตสำนึกแค่ไหน นั่นเป็นคำถาม

ที่จะทำให้นักปรัชญา และนักวิทยาศาสตร์คลั่ง

นายอยู่ใจกลางการทดลองวิทยาศาสตร์ ที่สำคัญที่สุดในประวัติศาสตร์มนุษย์

ถ้าคุณสร้างเครื่องจักรที่มีจิตสำนึก มันจะไม่ใช่ประวัติศาสตร์มนุษย์

มันเป็นประวัติศาสตร์ของเทพเจ้า

ปัญหาของจิตสำนึกคือ

แทบไม่มีใครระบุได้ว่า มันคืออะไรกันแน่

จิตสำนึกคือสิ่งที่ทำให้เราพิเศษหรือ

ทำให้เราเป็นมนุษย์หรือ

วิธีอธิบายเรื่องจิตสำนึกวิธีหนึ่ง ซึ่งหลายคนเห็นด้วย

คุณไม่มีทางหาวิธี ที่ถูกใจทุกคนได้อยู่แล้ว

ก็คือมันไม่ใช่แสงไฟวูบวาบ แต่มันคือบ้านของใครสักคน

ดังนั้น ถ้าคุณมี...

ถ้าคุณซื้อเครื่องจักรเล่นหมากรุกมา

มันอาจเล่นหมากรุกชนะคุณ มันมีแสงไฟกะพริบเยอะ