การศึกษาชี้ให้เห็นถึงอันตรายที่อาจเกิดขึ้นจาก AI ผู้โศกเศร้าต่อผู้เสียชีวิต

ในขอบเขตแห่งชีวิตหลังความตายแบบดิจิทัล ซึ่งเทคโนโลยี AI ช่วยให้สามารถสนทนากับผู้เสียชีวิตได้นักวิทยาศาสตร์ของมหาวิทยาลัยเคมบริดจ์ ให้ความสำคัญกับข้อกังวลเกี่ยวกับขอบเขตทางจริยธรรมและอันตรายที่อาจเกิดขึ้น แชทบอทที่ขับเคลื่อนด้วย AI เหล่านี้ได้รับการขนานนามว่าเป็น “บอทบ็อต” หรือ “บ็อตเศร้าโศก” ได้รับการออกแบบมาเพื่อเลียนแบบภาษาและบุคลิกภาพของผู้เป็นที่รักที่จากไป เพื่อมอบความปลอบใจให้กับผู้เสียชีวิต อย่างไรก็ตาม การศึกษาเมื่อเร็วๆ นี้เตือนว่านวัตกรรมเหล่านี้อาจนำไปสู่ผลลัพธ์ที่ไม่ได้ตั้งใจ รวมถึงสิ่งที่นักวิจัยอธิบายว่าเป็น “การหลอกหลอนทางดิจิทัล” ซึ่งขาดมาตรฐานความปลอดภัย

ผลกระทบทางจริยธรรมของเทคโนโลยีดังกล่าวได้รับการเน้นย้ำจากประสบการณ์ของบุคคลเช่น Joshua Barbeau ซึ่งใช้เทคโนโลยี AI รุ่นแรก ๆ ที่รู้จักกันในชื่อProject Decemberเพื่อสนทนากับแบบจำลองดิจิทัลของคู่หมั้นที่เสียชีวิตของเขา ด้วยการให้ตัวอย่างข้อความและคำอธิบายส่วนตัวแก่ AI ทำให้ Barbeau ได้เห็นการตอบสนองเหมือนจริงที่ทำให้เกิดความกังวลเกี่ยวกับการใช้เทคโนโลยีดังกล่าวในทางที่ผิดที่อาจเกิดขึ้น รวมถึงการแทรกโฆษณาที่ปลอมแปลงเป็นความคิดของผู้เสียชีวิต

นอกจากนี้ นักจิตวิทยายังเน้นย้ำถึงผลกระทบของเทคโนโลยีเหล่านี้ที่มีต่อเด็กในการรับมือกับการสูญเสีย ทำให้เกิดคำถามเกี่ยวกับศักดิ์ศรีของผู้เสียชีวิตและความเป็นอยู่ที่ดีของผู้ตาย ศาสตราจารย์อิเนส เทสโตนีแห่งมหาวิทยาลัยปาโดวาเน้นย้ำถึงความยากลำบากในการพรากจากผู้เป็นที่รักซึ่งจากไป โดยเน้นย้ำถึงความสำคัญของการทำความเข้าใจความตายและผลที่ตามมา เพื่อแสดงให้เห็นถึงความเสี่ยงที่อาจเกิดขึ้น นักจริยธรรมของ Cambridge AI ได้สรุปสถานการณ์สมมติสามประการที่บอทผู้โศกเศร้าอาจสร้างอันตรายได้

ซึ่งรวมถึงการจำลองบุคคลที่เสียชีวิตเพื่อโปรโมตผลิตภัณฑ์เชิงพาณิชย์โดยไม่ได้รับอนุญาต ความสับสนที่เกิดขึ้นจากการโต้ตอบที่ไม่สมจริงซึ่งนำไปสู่ความล่าช้าในการรักษา และการวางสถานะทางดิจิทัลกับผู้รับที่ไม่เต็มใจ ทำให้เกิดความทุกข์ทางอารมณ์และความรู้สึกผิด การศึกษานี้สนับสนุนการใช้กระบวนการออกแบบโดยอาศัยความยินยอมสำหรับบอทผู้เศร้าโศก โดยผสมผสานกลไกการเลือกไม่เข้าร่วมและการจำกัดอายุ นอกจากนี้ ยังเรียกร้องให้มีพิธีกรรมใหม่ๆ ที่จะเลิกใช้แบบจำลองดิจิทัลเหล่านี้ด้วยความเคารพ โดยตั้งคำถามว่าเทคโนโลยีดังกล่าวเป็นเพียงการชะลอกระบวนการโศกเศร้าหรือไม่

ดร. Katarzyna Nowaczyk-Basińska ผู้ร่วมเขียนการศึกษา เน้นย้ำถึงความซับซ้อนทางจริยธรรมของ AI ในชีวิตหลังความตายในโลกดิจิทัล โดยเน้นย้ำถึงความจำเป็นในการจัดลำดับความสำคัญของศักดิ์ศรีของผู้เสียชีวิต และปกป้องสิทธิ์ของทั้งผู้บริจาคข้อมูลและผู้ใช้ เนื่องจากการใช้ AI ในโลกหลังความตายแบบดิจิทัลยังคงพัฒนาต่อไป ข้อพิจารณาทางจริยธรรมยังคงเป็นสิ่งสำคัญยิ่งในการสำรวจดินแดนที่ไม่เคยมีใครรู้จักนี้ ในประเทศจีน อุตสาหกรรมที่กำลังเติบโตของการจำลองที่สร้างขึ้นโดย AI ของผู้เป็นที่รักซึ่งเสียชีวิตไปแล้ว กำลังปลอบโยนผู้ไว้อาลัย ขณะเดียวกันก็ตั้งคำถามสำคัญด้านจริยธรรม บริษัทอย่างSilicon Intelligenceใช้ประโยชน์จากความก้าวหน้าของเทคโนโลยี AI เพื่อสร้างอวตารดิจิทัลที่จำลองการสนทนากับผู้เสียชีวิต โดยมอบความสะดวกสบายให้กับบุคคลอย่าง Sun Kai ที่ต้องการรักษาความสัมพันธ์กับแม่ที่เสียชีวิตของเขา

ความต้องการบริการเหล่านี้เน้นย้ำถึงประเพณีทางวัฒนธรรมของการสื่อสารกับผู้ตาย แต่นักวิจารณ์ตั้งคำถามว่าการโต้ตอบกับแบบจำลอง AI เป็นวิธีการประมวลผลความโศกเศร้าที่ดีต่อสุขภาพหรือไม่ แม้จะมีข้อจำกัดทางเทคโนโลยีและความไม่แน่นอนทางจริยธรรม แต่ตลาดสำหรับความเป็นอมตะทางดิจิทัลกำลังเฟื่องฟู โดยราคาลดลงและความสามารถในการเข้าถึงเพิ่มขึ้น อวตารที่สร้างโดย AI ซึ่งคล้ายกับ Deepfakes นั้นอาศัยการป้อนข้อมูล เช่น รูปภาพ วิดีโอ และข้อความ เพื่อจำลองความเหมือนและรูปแบบคำพูดของบุคคลที่เสียชีวิต ความก้าวหน้าอย่างรวดเร็วในเทคโนโลยี AI ของจีนทำให้บริการดังกล่าวเข้าถึงได้ง่ายขึ้น โดยบริษัทอย่าง Silicon Intelligence เสนอตัวเลือกที่ปรับแต่งได้ตั้งแต่แอปแบบโต้ตอบไปจนถึงจอแสดงผลแท็บเล็ต

ในขณะที่บางคนมองว่าแบบจำลองเหล่านี้เป็นการบำบัด แต่บางคนก็แสดงความกังวลเกี่ยวกับความถูกต้องของการโต้ตอบและผลกระทบทางจริยธรรมของการจำลองผู้เสียชีวิตโดยไม่ได้รับความยินยอม นอกจากนี้ ความท้าทายทางเทคนิค เช่น การจำลองการเคลื่อนไหวของร่างกายและการได้รับข้อมูลการฝึกที่เพียงพอทำให้เกิดอุปสรรคสำคัญ ประเด็นขัดแย้งทางจริยธรรมที่เกี่ยวข้องกับการจำลอง AI ได้รับการยกตัวอย่างจากเหตุการณ์ขัดแย้งที่เกี่ยวข้องกับบริษัทแห่งหนึ่งในหนิงโปซึ่งใช้ AI เพื่อสร้างวิดีโอของคนดังที่เสียชีวิตโดยไม่ได้รับความยินยอม เหตุการณ์ดังกล่าวจุดชนวนเสียงโห่ร้องของสาธารณชน และเน้นย้ำถึงความจำเป็นในการมีแนวปฏิบัติด้านจริยธรรมที่ชัดเจนในสาขาเทคโนโลยีชีวิตหลังความตายแบบดิจิทัลที่กำลังเติบโตอย่างรวดเร็ว