“ได้ยินข่าวหรือยัง?”
“ได้ยินอะไรเหรอ?”
“มีเสียงปืนดังที่ชานเมืองเขตไฮเทคจินหลิง มีคนเห็นตำรวจเยอะเลย…เห็นชัดๆ ว่ามันเกี่ยวข้องกับอาชญากรรมหุ่นยนต์บ้าคลั่งที่รายงานไปเมื่อคราวก่อน”
“จริงเหรอ? อย่าปล่อยข่าวลือเลยน่า ฉันได้ยินว่ามีคนกำลังถ่ายหนังที่นั่น… เรื่องนั้นไม่ได้หักล้างข่าวลือหรอกเหรอ?”
“โอ้ จริงเหรอ ฉันเพิ่งฟังมาจากคนอื่น… แต่นายคิดจริงๆ เหรอว่าหุ่นยนต์น่ะปลอดภัย? ครั้งหนึ่งพิพิธภัณฑ์สถาบันจินหลิงเพื่อการศึกษาขั้นสูงทำหุ่นยนต์หายไปตัวหนึ่ง เห็นชัดๆ เลยว่ามันแอบหนีออกไปเอง”
“บางทีมันอาจจะไปฉลองการฟื้นคืนชีพของนักวิชาการลู่หรือเปล่า? ยังไงก็แล้วแต่ กฎสามข้อของหุ่นยนต์นั้นละเมิดไม่ได้ ความแข็งแกร่งทางเทคนิคของฮิปโปแคมปัส กรุ๊ป ก็ค่อนข้างเข้มแข็งด้วย พวกเขาคงจะไม่มีช่องโหว่ที่ผิดกฎหมายในกลุ่มหุ่นยนต์ของพวกเขาหรอก… เอาล่ะ เปลี่ยนเรื่องกันเถอะ”
ที่บริเวณมหาวิทยาลัยจินหลิง ระหว่างที่เดินอยู่บนทางเดินที่มีต้นไม้อยู่ข้างทางเพื่อไปยังห้องเรียนเตรียมความพร้อม ลู่โจวก็อดไม่ได้ที่จะคิ้วกระตุกเมื่อเขาได้ยินการถกเถียงของนักศึกษาที่เดินอยู่ข้างหน้า เขาเร่งฝีเท้าให้เร็วขึ้นโดยไม่รู้ตัว
เขาไม่ต้องการจะฟังคนอื่นพูดถึงตัวเขาเอง เขาอยากจะหนีไปจากตรงนี้โดยเร็ว
อย่างไรก็ตามตอนที่เขาเดินผ่านนักศึกษาสองคน พวกเขากลับตกใจกลัวจนพูดไม่ออก
หลังจากมาถึงห้องเรียน ลู่โจวก็ชำเลืองมองไปยังเหล่านักศึกษาที่กระจัดกระจายกันอยู่ในห้องเรียน เขาสุ่มหาที่นั่งตรงแถวแรก
ประมาณห้าหรือหกนาทีต่อมา ออดห้องเรียนก็ดังขึ้น อาจารย์ซุนเดินเข้ามาจากนอกห้องเรียนอย่างเร่งรีบ
เมื่อเธอเห็นลู่โจวนั่งอยู่ที่แถวแรก หญิงสาวก็เบิกตากว้างทันที เธอตกตะลึงไปราวกับว่าเธอได้เห็นบางสิ่งที่พิเศษ
“ลู่-นักวิชาการลู่ สวัสดีค่ะ!”
“สวัสดีครับ” ลู่โจวยิ้มด้วยท่าทีที่เป็นมิตรระหว่างมองไปที่ซุนหลาน ผู้ซึ่งกำลังประหม่าในการพูดทักทายเขา “อย่าสนใจผมเลยครับ เริ่มสอนเถอะ”
“อ่า โอเคค่ะ โอเค!”
บางทีอาจเป็นเพราะว่าเธอไม่เคยคิดว่าวันหนึ่งเธอจะได้สอนนักวิชาการลู่ ระหว่างที่บรรยายอยู่อาจารย์ซุนรู้สึกประหม่ามาก เธอถึงกับเผลอกัดลิ้นตัวเองโดยไม่ได้ตั้งใจ
ลู่โจวค่อนข้างแปลกใจที่เธอสามารถทำให้ชั้นเรียนทฤษฎีที่น่าเบื่อขนาดนี้น่าสนใจขึ้นมาได้
แน่นอนว่าสิ่งที่ทำให้เขาแปลกใจมากที่สุดก็คือสิ่งต่างๆ ที่เขาได้เรียนในชั้นเรียน
อย่างเช่น เทคโนโลยีหุ่นยนต์ที่ส่งผลต่ออารยธรรมมนุษย์และสังคมทั้งหมดในศตวรรษที่ 22 และพวกปัญหาสังคมต่างๆ ที่เป็นสาเหตุที่ทำให้เกิดเทคโนโลยีนี้เป็นต้น
แม้ว่าลู่โจวเองจะให้ความสนใจกับสิ่งต่างๆ ในระดับเทคนิคมากกว่า แต่การอธิบายเทคโนโลยีนี้จากมุมมองของมนุษย์ก็ช่วยเปิดหูเปิดตาให้เขา
หลังจากหมดคาบ ลู่โจวใช้เวลา 10 วินาทีในการแยกปัญหาต่างๆ ที่เขาได้เรียนรู้ออกมา จากนั้นเขาก็ลุกขึ้นจากที่นั่งและเดินไปที่โพเดียม
“ผมขอถามคำถามได้ไหมครับ”
หญิงสาวที่ยืนอยู่หลังโพเดียมยืนตัวตรงโดยที่ยังตกอยู่ในภวังค์ราวกับว่าเธอได้ก่ออาชญากรรม เธอพูดอย่างประหม่าว่า “เชิญ… เชิญถามได้เลยค่ะ!”
“ไม่ต้องกังวลมากไปหรอกครับ ไม่ใช่คำถามส่วนตัว” ลู่โจวยิ้มให้อาจารย์ซุนที่มีท่าทีประหม่า แล้วเขาก็พูดต่อด้วยน้ำเสียงที่ใจเย็น “ผมสงสัยเกี่ยวกับเรื่องหุ่นยนต์ในบางที่… มีการพูดถึงในชั้นเรียนว่าในประวัติศาสตร์ของสหการพาน-เอเชียน มีการอภิปรายกันว่าหุ่นยนต์นั้นมีบุคลิกภาพโดยสมบูรณ์หรือไม่ ผมอยากจะรู้เหตุผลและผลลัพธ์สุดท้ายของการอภิปราย”
ซุนหลานถามว่า “คุณกำลังพูดถึง ‘มาตรการบริหารจัดการปัญญาประดิษฐ์’ ในปี 2077 หรือเปล่าคะ?”
ลู่โจวพยักหน้า ทำท่าบุ้ยใบ้ให้เธอพูดต่อ
“สาเหตุของการโต้เถียงนั้น… อันที่จริงมันไม่มีอะไรที่ซับซ้อนซ่อนเงื่อน เมื่อนานมาแล้วหลังจากการกำเนิดของมานุษยรูปนิยมระดับสูงและความสามารถในการเรียนรู้ที่เชี่ยวชาญ แวดวงวิชาการก็ได้ถกเถียงกันว่าอัลกอริทึมปัญญาประดิษฐ์ขั้นสูงมีบุคลิกภาพโดยสมบูรณ์หรือไม่ ความคิดเห็นส่วนหนึ่งบอกว่าปัญญาประดิษฐ์ที่ถูกออกแบบมาจากพื้นฐานของทฤษฎีการเรียนรู้ด้วยตัวเองของคอมพิวเตอร์เป็นแค่เพียงการเลียนแบบพฤติกรรมของมนุษย์ และอารมณ์ความรู้สึกที่มันแสดงออกเป็นแค่การแสดงการเลียนแบบ ความคิดเห็นฝั่งตรงข้ามก็คือบางคนคิดว่าปัญญาประดิษฐ์ขั้นสูงมีรูปแบบพื้นฐานของชีวิตอยู่แล้ว และมันควรจะถูกสร้างให้มีสิทธิมนุษยชนหรืออย่างน้อยสิทธิมนุษยชนที่จำกัด”
“เดิมแล้วการโต้เถียงนี้ยังอยู่ภายในแวดวงวิชาการ จนกระทั่งในปี 2076 คดีความได้ขยายความขัดแย้งจากในวงวิชาการไปสู่การโต้เถียงระดับชาติ จำเลยคือสำนักงานกิจการพลเรือน และเหตุผลของโจทก์ในการฟ้องร้องก็คือจำเลยไม่ได้รับอนุญาตให้ทำการจดทะเบียนกับหุ่นยนต์ของเขาให้สมบูรณ์ซึ่งเป็นการฝ่าฝืนเจตนารมณ์แห่งรัฐธรรมนูญ”
“สุดท้ายคดีนี้ก็ยุติลงในรูปแบบของการทำความตกลงนอกศาล จากนั้นจึงมีการออก ‘มาตรการบริหารจัดการปัญญาประดิษฐ์’ ในปีต่อมาและร่างสุดท้ายในปี 2078 ในที่สุดจึงได้มีการกำหนดให้ปัญญาประดิษฐ์ไม่มีสิทธิทางการเมืองและมีสิทธิมนุษยชนที่จำกัด ร่างกฎหมายนี้ยังถูกใช้เพื่อเป็นแหล่งอ้างอิงของประเทศอื่นๆ และได้กลายเป็นพื้นฐานของร่างกฎหมายการบริหารจัดการปัญญาประดิษฐ์ในปัจจุบันด้วย หลายๆ แนวคิดที่คนยุคใหม่คุ้นชิน ซึ่งรวมถึงเอกลักษณ์ของปัญญาประดิษฐ์ ได้ถูกกำหนดขึ้นในเวลานั้น”
“ในส่วนที่ว่าหุ่นยนต์มีชีวิตหรือไม่…” ขณะที่พิจารณาคำถามนี้อยู่สักพัก ซุนหลานก็ครุ่นคิดอยู่ครู่หนึ่ง แล้วเธอก็พูดพร้อมกับยิ้ม “เรื่องนี้พูดยากจริงๆ ค่ะ แม้ว่าเหตุผลจะบอกฉันว่าพวกมันเป็นแค่โปรแกรม แต่บางครั้งฉันก็จะปฏิบัติกับพวกมันเหมือนกับเป็นมนุษย์จริงๆ โดยไม่รู้ตัว”
“ผมเข้าใจ…” ลู่โจวพยักหน้าอย่างครุ่นคิด เขานึกถึงข้อมูลที่เก็บรวบรวมอยู่ในคอมพิวเตอร์โฮโลแกรมและถามต่อว่า “แต่ผมได้ยินว่าดูเหมือนจะมีวิธีที่จะเจลเบรคหุ่นยนต์และดัดแปลงตรรกะที่ซ่อนอยู่ของหุ่นยนต์”
“ตามหลักทฤษฎีแล้วนี่ก็เป็นปัญหา แต่ไม่ใช่ว่าตรรกะที่ซ่อนอยู่ทั้งหมดจะสามารถดัดแปลงได้” ซุนหลานพูดต่อไปว่า “ยกตัวอย่างเช่น พวกมันไม่สามารถทำร้ายมนุษย์ได้ สำหรับตรรกะการออกแบบของซอฟต์แวร์ความจำของหุ่นยนต์ พฤติกรรมแบบนี้ถูกตั้งค่ามาก่อนล่วงหน้าแล้ว”
“แล้วถ้ามันเป็นไวรัสล่ะ?”
“ไวรัสเหรอ?” ซุนหลานมองมาที่ลู่โจวด้วยใบหน้าที่เรียบเฉยและพูดว่า “เรื่องนี้อยู่เหนือขอบเขตความรู้ของฉันค่ะ งานวิจัยเรื่องปัญญาประดิษฐ์ของฉันส่วนมากอยู่ที่ระดับสังคมวิทยา ไวรัสที่สามารถเปลี่ยนตรรกะที่ซ่อนอยู่ของหุ่นยนต์… ฟังดูน่ากลัว มันเหมือนคนสำคัญของคุณได้กลายเป็นคนไม่น่าไว้ใจ”
ลู่โจวพูดว่า “มันดูน่ากลัวจริงๆ”
ซุนหลานพูดว่า “ถ้าคุณสนใจงานวิจัยในด้านนี้ ฉันขอแนะนำให้คุณไปคุยกับศาสตราจารย์จางจงเฉิงจากสถาบันวิศวกรรมสารสนเทศ เขาเป็นผู้เชี่ยวชาญด้านนี้ค่ะ”
“ถ้ามีโอกาส ผมจะติดต่อเขา” ลู่โจวพยักหน้าและพูดพร้อมกับยิ้ม “คำถามผมหมดแล้วครับ ขอบคุณสำหรับคำตอบ”
“ไม่ต้องขอบคุณฉันหรอกค่ะ นี่เป็นงานของฉันอยู่แล้ว” ซุนหลานยิ้มอย่างเขินอาย เธอพยายามจะเอาชนะความตึงเครียดและพูดอย่างอายๆ ว่า “เอ่อ… ฉันขอรบกวนอะไรคุณอย่างหนึ่งได้ไหมคะ?”
ลู่โจวพูด “อะไรเหรอครับ”
“คือว่าฉันขอเลี้ยงมื้อเที่ยงคุณได้ไหมคะ?” ความสนใจเปล่งประกายอยู่ในดวงตาของเธอ ซุนหลานพูดต่อว่า “ฉันมีหลายอย่างที่อยากจะถามคุณเกี่ยวกับยุคสมัยของคุณ… เรื่องนี้เกี่ยวกับงานวิจัยของฉันค่ะ!”
แม้ว่าเขาจะอยากจะช่วยเธอ แต่ลู่โจวก็อดแสดงสีหน้าหมดหนทางไม่ได้
“ขอโทษด้วยครับ ผมเกรงว่าวันนี้จะไม่สะดวก อีกสักพักผมมีประชุม แต่คราวหน้าได้แน่นอนครับ”
ซุนหลานรู้สึกผิดหวังเล็กน้อย แต่เธอยังยิ้มและพูดว่า “ถ้าอย่างนั้นวันอื่นก็ได้ค่ะ”