การฆ่าตัวตายและ Facebook AI

เมื่อคนตายโดยการฆ่าตัวตายผู้ที่อยู่ในชีวิตมักจะสงสัยว่าพวกเขาสามารถทำได้เพื่อป้องกันไม่ให้เกิดอะไรขึ้น

ผู้ใช้สื่อสังคมออนไลน์อาจเสียใจที่ได้เห็นบางสิ่งบางอย่างที่โพสต์โดยบุคคล แต่ยังไม่ได้ทำอะไรเกี่ยวกับเรื่องนี้

AdvertisementAdvertisement

ในความพยายามที่จะช่วยให้ Facebook ประกาศว่าจะขยายการใช้เครื่องมือปัญญาประดิษฐ์ (AI) เพื่อระบุเมื่อมีคนแสดงความคิดเห็นเกี่ยวกับการฆ่าตัวตายหรือการทำร้ายตัวเองบนเว็บไซต์สื่อสังคมออนไลน์

ก่อนเดือนนี้ Facebook ใช้เฉพาะเครื่องมือในผู้ใช้บางรายในสหรัฐอเมริกาเท่านั้น ขณะนี้สามารถใช้ได้กับผู้ใช้ 2 พันล้านรายของไซต์ยกเว้นผู้ใช้ในสหภาพยุโรปซึ่งมีกฎหมายข้อมูลส่วนบุคคลและอินเทอร์เน็ตที่เข้มงวดมากขึ้น Mark Zuckerberg ประธานเจ้าหน้าที่บริหารของ Facebook กล่าวว่าการใช้ AI นี้เป็นพัฒนาการที่ดี

การโฆษณา

เมื่อเร็ว ๆ นี้เขาโพสต์ไว้ในเฟสบุ๊คของเขาว่า "ในเดือนที่ผ่านมาเพียงอย่างเดียวเครื่องมือ AI เหล่านี้ช่วยให้เราเชื่อมต่อกับผู้ตอบแบบสอบถามได้เร็วกว่า 100 ครั้ง “

เครื่องมือนี้ทำอย่างไร?

AdvertisementAdvertisement

Facebook ไม่เปิดเผยรายละเอียดในเชิงลึก แต่ดูเหมือนว่าเครื่องมือนี้จะทำงานโดยการอ่านบทความหรือวิดีโอและสะกดรอยตามเมื่อพูดถึงคำวิดีโอและภาพที่อาจบ่งบอกว่าบุคคลนั้นเป็นใคร เสี่ยงต่อการฆ่าตัวตาย

Facebook ใช้ AI ในเรื่องที่คล้ายคลึงกันในการสแกนและนำโพสต์ที่นำเสนอภาพอนาจารเด็กและเนื้อหาที่ไม่เหมาะสมอื่น ๆ

จากนั้นสมาชิกในทีมการดำเนินการชุมชนของ Facebook ที่ได้รับการฝึกฝนจะตรวจสอบเนื้อหาและระบุประเภทของความช่วยเหลือที่จะมอบให้กับผู้ใช้

สมาชิกเหล่านี้ทำงานรอบโลกตลอด 24 ชั่วโมงและทบทวนรายงานจากเครื่องมือ AI และจากผู้ใช้ Facebook ที่เกี่ยวข้อง

AdvertisingAdvertisement

เครื่องมือหนึ่งที่ AI จะตรวจจับแนวโน้มการฆ่าตัวตายได้โดยแจ้งให้ผู้ใช้ทราบเช่น "คุณสบายดีหรือไม่? "ฉันช่วยได้ไหม? "และ" คุณต้องการความช่วยเหลือหรือไม่? "

ทีมงานของชุมชนของ Facebook ดำเนินการตรวจสอบเนื้อหาที่รายงานว่าเป็นการกระทำที่รุนแรงหรือสร้างความลำบาก

ในเดือนพฤษภาคม Facebook ประกาศว่าจะเพิ่มพนักงานอีก 3,000 คนเข้าร่วมทีมปฏิบัติการซึ่งมีพนักงาน 4,500 คนในเวลานั้น

โฆษณา

ตามโฆษกของ Facebook เทคโนโลยีช่วยในการตรวจจับเนื้อหาและวิดีโอที่โพสต์บน Facebook ได้บ่อยครั้งกว่าเพื่อนหรือสมาชิกในครอบครัวสามารถรายงานเนื้อหาได้

เมื่อตรวจพบผู้ใช้ Facebook จะติดต่อกับ Facebook Live Chat Support จากองค์กรสนับสนุนวิกฤตผ่านทาง Messenger และสามารถแชทได้แบบเรียลไทม์

AdvertisingAdvertisement

การรับรู้การฆ่าตัวตายในบอร์ด

ในการสร้าง AI เพื่อป้องกันการฆ่าตัวตาย Facebook ทำงานร่วมกับองค์กรด้านสุขภาพจิตรวมถึง Save org, สายด่วนป้องกันการฆ่าตัวตายแห่งชาติ "1-800-273-TALK (8255)" และการป้องกันการฆ่าตัวตายใน Forefront Daniel Daniel Reidenberg, PsyD, กรรมการบริหารของ Save org กล่าวว่าเขารู้สึกตื่นเต้นที่เฟสบุ๊คกำลังดำเนินการเพื่อช่วยในการป้องกันการฆ่าตัวตายล่วงหน้าในลักษณะที่ยังไม่เคยทำมาก่อน

"ถ้าเรามองไปในช่วง 50 หรือ 60 ปีที่ผ่านมา - ไม่ว่าคุณกำลังพูดถึงความก้าวหน้าในการใช้ยาหรือการรักษาเพื่อฆ่าตัวตายและสุขภาพจิตหรือไม่ก็ตามเราก็ไม่เห็นการลดลงหรือเห็นการฆ่าตัวตายเพราะสิ่งเหล่านั้นดังนั้นความคิด เทคโนโลยีอาจช่วยให้เป็นโอกาสที่ดีที่สุดที่เรามีในขณะนี้เพื่อพยายามที่จะช่วยชีวิต "Reidenberg บอก Healthline

การโฆษณา

ขณะที่เขายังตั้งข้อสังเกตว่าเครื่องมือ AI อาจไม่ได้รับการออกแบบอย่างครบถ้วนและอาจมีการปลอมแปลงผิดพลาดของผู้ที่มีความเสี่ยงเขากล่าวว่าเป็นการแทรกแซงที่ทันสมัยสำหรับการป้องกันการฆ่าตัวตายซึ่งอาจต้องใช้เวลาในการทำความเข้าใจ ประสิทธิผล.

"ก่อนที่ AI จะมาพร้อมกันมีข้อมูลผิดพลาดจากผู้ที่รายงานสิ่งต่างๆใน Facebook ซึ่งคิดว่าเพื่อนอาจฆ่าตัวตาย AI เป็นเพียงการเร่งกระบวนการเพื่อช่วยกำจัดบางส่วนของเหล่านั้นผิดพลาดบวกและจริงๆรับในบรรดาผู้ที่มีความเสี่ยงอย่างแท้จริง "Reidenberg กล่าว.

AdvertisingAdvertisement

เขาเสริมว่าผู้คนแสดงสัญญาณแนวโน้มการฆ่าตัวตายใน social media และนี่ไม่ใช่สิ่งที่ดีหรือไม่ดี

"สื่อสังคมออนไลน์เป็นที่ที่ผู้คนกำลังมีชีวิตอยู่ในปัจจุบัน ปีที่ผ่านมาพวกเขาอาศัยอยู่ในสวนสาธารณะหรือที่พักผ่อนหรือเขียนบันทึกย่อกับแต่ละอื่น ๆ อาจจะใช้ร่วมกันผ่านทางโทรศัพท์ ในขณะที่ผู้คนจำนวนมากใช้ชีวิตของตนบนโซเชียลมีเดียพวกเขาแบ่งปันช่วงเวลาแห่งความสุขและความท้าทายที่พวกเขาเผชิญ "เขากล่าว

การเปลี่ยนแปลงนี้ทำให้เขาสามารถเข้าถึงผู้คนได้หลายร้อยคนในแต่ละครั้ง

Reidenberg กล่าวว่าถ้าคุณสังเกตเห็นใครบางคนใน social media ที่อาจหดหู่หรือเสี่ยงต่อการถูกทำร้ายตัวเองให้ติดต่อกับพวกเขาด้วยข้อความข้อความหรือโทรศัพท์ถ้าคุณเป็นเพื่อนสนิท Facebook ยังนำเสนอข้อความที่มีการเติมข้อมูลก่อนเพื่อให้การสนทนาง่ายยิ่งขึ้น

ถ้าคุณรู้สึกไม่สบายใจกับแนวทางดังกล่าว Reidenberg แนะนำให้ใช้ฟังก์ชันการรายงานบน Facebook

"เป็นเรื่องง่ายและรวดเร็วในการทำ เทคโนโลยีไม่สามารถทำอย่างนี้ได้ตามลำพัง เราต้องการให้คนมีส่วนร่วม ไม่ได้ทำอะไรบางอย่างเป็นสิ่งเลวร้ายที่สุดที่อาจเกิดขึ้น "เขากล่าว

ประเด็นด้านความเป็นส่วนตัวมีอะไรบ้าง?

นอกเหนือจากความตั้งใจที่ดีแล้วก็ยากที่จะไม่พิจารณาการบุกรุกความเป็นส่วนตัว Charles Lee Mudd Jr. ทนายความด้านข้อมูลส่วนบุคคลและหัวหน้างานของ Mudd Law กล่าวว่าการสแกนหาคำหลักของ Facebook ไม่ควรถือเป็นการละเมิดข้อมูลส่วนบุคคลหากได้รับการเปิดเผยก่อนเวลา

"ตราบเท่าที่เฟซบุ๊คเปิดเผยเนื้อหาของเนื้อหานั้น แต่ฉันไม่เห็นข้อกังวลเรื่องความเป็นส่วนตัวจริงๆ" มัดด์กล่าวกับ Healthline "ควรทำความเข้าใจว่าทุกอย่างที่เผยแพร่ทางอินเทอร์เน็ตรวมทั้งผ่านอีเมลส่วนตัวหรือไม่หรือโซเชียลมีเดียอาจหาทางส่งไปยังผู้รับที่ไม่ได้ตั้งใจอย่างน้อยที่สุดถ้า Facebook ช่วยให้เรารู้ว่ามีหุ่นยนต์ที่อ่านจดหมายของเราหรืออย่างน้อยก็สแกนหาคำหรือวลีเราสามารถปรับพฤติกรรมของเราได้หากจำเป็นต้องทำเช่นนั้น "

ในขณะที่ Facebook ถูกต้องตามกฎหมายอาจมีความชัดเจนไม่ว่าจะเป็นการกระทำที่มีจริยธรรมขึ้นอยู่กับการอภิปรายก็ตาม

Keshav Malani ผู้ร่วมก่อตั้ง บริษัท Powr of You ซึ่งเป็น บริษัท ที่ช่วยให้ผู้คนสามารถหารายได้จากการใช้ระบบดิจิทัลได้กล่าวว่าไม่ว่าความตั้งใจของเฟซบุ๊กจะทำให้ทุกคนมีอิสระในการตัดสินใจว่าข้อมูลส่วนบุคคลของพวกเขาถูกนำมาใช้อย่างไร

"หรืออย่างอื่นก็เป็นความลื่นเมื่อพิจารณาว่าข้อมูลส่วนบุคคลที่เราแชร์บนแพลตฟอร์มเช่น Facebook ถือว่า" ดี "กับ" ไม่ดี " นอกจากนี้ความตั้งใจไม่เพียงพอเพราะความอคติในข้อมูลอาจส่งผลให้เกิดข้อเรียกร้องที่ไม่ถูกต้องหรือเป็นอันตรายจากการวิเคราะห์ความสัมพันธ์ทางประวัติศาสตร์แม้เพียงขั้นพื้นฐาน "Malani กล่าวต่อ Healthline

เขาเสริมว่า AI ดีเท่าข้อมูลที่ได้รับเป็นข้อมูลเข้าเท่านั้น

"แพลตฟอร์มต่างๆเช่น Facebook พยายามที่จะสมมติว่าพวกเขารู้จักคุณดีพอที่จะสรุปข้อสรุปเกี่ยวกับความเป็นอยู่ของคุณจะไร้เดียงสา Facebook หรือสื่ออื่น ๆ สำหรับเรื่องนั้นเพียง แต่ครอบคลุมส่วนเล็ก ๆ ของชีวิตของเราและมักจะวาดภาพที่เราเลือกที่จะแบ่งปันดังนั้นการสรุปผลจากแหล่งข้อมูลที่มีข้อ จำกัด และเป็นไปได้อาจต้องกระทำด้วยความระมัดระวังเป็นอย่างยิ่ง " เขาพูดว่า.

ยังคง Reidenberg กล่าวว่าคนไม่ควรกลัว Facebook ใช้ AI

"Facebook ไม่ใช่คนคุมขังหรือเข้าสู่ธุรกิจของผู้คน" เขากล่าว "มันใช้เทคโนโลยีและคนในการพยายามช่วยชีวิตผู้คน" เขากล่าว "เชื่อฉันถ้าคุณมีคนที่คุณรักในช่วงวิกฤตคุณต้องการให้ทุกอย่างทำเพื่อพวกเขาไม่ว่าคุณจะอยู่ในห้องฉุกเฉินหรือทางออนไลน์ "

ในความเป็นจริงเขาหวังว่าเทคโนโลยีจะสามารถแทรกแซงกับคนที่อยู่ในภาวะวิกฤติ

"เมื่อมีคนตกอยู่ในภาวะวิกฤติทางเลือกและทางเลือกต่างๆก็หายไป พวกเขาให้ความสำคัญกับสิ่งที่เกิดขึ้นในขณะนั้นและพวกเขาไม่มีเครื่องมือที่จำเป็นในการทำให้พวกเขาผ่าน "เขากล่าว

เมื่อใดก็ตามที่เทคโนโลยีสามารถช่วยให้คนมีทางเลือกมากขึ้น Reidenberg กล่าวว่าพวกเขาจะอยู่ในภาวะวิกฤตน้อยลง เขาต้องการเห็นเทคโนโลยีสร้างวิธีการระบุคนที่มีความเสี่ยงมากขึ้นก่อนที่พวกเขาจะเสี่ยงต่อการพูดเช่นความหดหู่

ตัวอย่างเช่นเขาบอกว่าถ้าเรารู้ว่าเมื่อเราหดหู่ใจมากขึ้นเรื่อย ๆ ว่าเราปฏิสัมพันธ์น้อยยิ่งขึ้นแยกตัวออกมากขึ้นมีพลังงานน้อยลงพูดคุยและเขียนแตกต่างออกไปจากนั้นการเขียนโปรแกรมเทคโนโลยีเพื่อสังเกตการเปลี่ยนแปลงเหล่านี้อาจเป็นประโยชน์

"สมมติว่าคุณเป็นโปสเตอร์ปกติบน Facebook แต่คุณจะรู้สึกหดหู่ในชีวิตมากขึ้นและกิจกรรมของคุณจะค่อยๆลดลง จากนั้นคุณจะเริ่มโพสต์รูปภาพใน Instagram ของคนที่เศร้ามากหรือวันมืดมนภายนอก ถ้าเราสามารถรับเทคโนโลยีเพื่อรับสิ่งที่เกิดขึ้นกับคุณในชีวิตของคุณโดยอาศัยพฤติกรรมออนไลน์ของคุณเราสามารถเริ่มต้นให้สิ่งต่างๆเช่นทรัพยากรหรือการสนับสนุนและบางทีเราอาจจะหันไปรอบ ๆ "Reidenberg กล่าว

Zuckerberg แบ่งปันความรู้สึกที่คล้ายกันในโพสต์ของเขาซึ่งกล่าวถึงแผนการในอนาคตที่จะใช้ AI ในรูปแบบอื่น

"เราสามารถทำได้มากขึ้นเพื่อปรับปรุงสิ่งเหล่านี้ต่อไป" เขากล่าว "ในอนาคต AI จะสามารถเข้าใจถึงความแตกต่างที่ลึกซึ้งของภาษาได้มากขึ้นและจะสามารถระบุปัญหาต่าง ๆ นอกเหนือจากการฆ่าตัวตายได้อีกด้วยรวมถึงการข่มขู่และเกลียดชังอีกด้วย “