Facebook#2 ปัญหาบัญชีปลอมจำนวนมากของ Facebook

technologyreview.com

เมื่อมองแวบแรก บัญชี Facebook ของ Amy Dowd ก็ดูเป็นปกติดี มีรูปโปรไฟล์ที่ยิ้มแย้มของหญิงสาวที่รายล้อมไปด้วยใบไม้เปลี่ยนสี แต่เมื่อมองอย่างใกล้ชิดมากขึ้น สิ่งต่างๆ เริ่มดูแปลกๆ Amy ไม่มีเพื่อน ไม่มีความสนใจ และไม่มีรูปถ่ายต่างจากเด็กอายุ 29 ปีส่วนใหญ่ สิ่งเดียวที่เธอเขียนคือบทวิจารณ์เกี่ยวกับบริษัทขนส่งในสหรัฐฯ “บัญชีปลอม” ผู้ใช้คนหนึ่งตอบ เขาพูดถูก

ปรากฏการณ์ของบัญชีปลอมบนโซเชียลเน็ตเวิร์กเป็นปัญหาที่แพร่หลาย เฟซบุ๊ก (Facebook) เป็นแนวหน้าในการต่อสู้กับปรากฏการณ์นี้ โดยการตรวจจับและลบโปรไฟล์ปลอมออกจากแพลตฟอร์มอย่างต่อเนื่อง แต่บัญชีปลอมยังคงเป็นปัญหาสำคัญและแย่ลงเรื่อยๆ  Facebook ซึ่งเพิ่งพ้นเรื่องอื้อฉาว Cambridge Analytica ยังคงเผชิญกับการวิพากษ์วิจารณ์อย่างรุนแรงเนื่องจากไม่สามารถควบคุมผู้ละเมิดได้เพียงพอ 

การจับทุกบัญชีปลอมบน Facebook เป็นงานที่ยุ่งยากและไม่มีวันจบสิ้น มีความท้าทายสำคัญสองประการ: ประการแรก Facebook มีขนาดใหญ่มากสำหรับนักวิเคราะห์ที่เป็นมนุษย์เพียงอย่างเดียว ประการที่สอง เครื่องจักรอัจฉริยะจะยังคงเป็นเครื่องจักรและไม่สามารถเชื่อถือได้ทั้งหมด เนื่องจากอาจมีความแตกต่างเล็กน้อยระหว่างบัญชีปลอมและบัญชีจริง ไม่ใช่ทุกบัญชีที่ดูปลอมจะเป็นของปลอม

Galantis – No Money (YouTube)

Facebook ได้ลบบัญชีปลอมกว่า 2 พันล้านบัญชี

dailyalts.com

เฟชบุ๊ก (Facebook) – หนึ่งในเครือข่ายโซเชียลที่ใหญ่ที่สุดในโลกโดยมีผู้ใช้งาน 2.8 พันล้านคนต่อเดือนซึ่งเป็นจำนวนเกือบหนึ่งในสามของประชากรทั่วโลก บริษัทเชื่อว่า 5% ของผู้ใช้งานต่อเดือนเป็นบัญชีปลอมที่ละเมิดนโยบายของ Facebook  มิจฉาชีพสร้างโปรไฟล์ปลอมบน Facebook เพื่อแอบอ้างเป็นผู้ใช้รายอื่น และเพื่อส่งข้อความสแปม (spamming) มัลแวร์ (malware) หรือการใช้ฟิชชิ่งสแกม (phishing scams) เพื่อขายผลิตภัณฑ์ปลอม หรือเพื่อการขโมยข้อมูลทางการเงินหรือข้อมูลประจำตัวบางประเภท การสร้างบัญชีปลอมเหล่านี้ทำได้ง่าย ผู้ไม่หวังดีมักพยายามสร้างบัญชีอัตโนมัติจำนวนมากในคราวเดียว จึงทำให้ยากต่อการตรวจจับ ถือเป็นความกังวลหลักสำหรับชื่อเสียงของ Facebook

Facebook ได้ประกาศว่าได้ใช้เทคโนโลยีปัญญาประดิษฐ์หรือ AI (Artificial Intelligence) ที่พัฒนาขึ้นใหม่เพื่อต่อสู้กับบัญชีปลอม จากความช่วยเหลือของ AI ทำให้ Facebook สามารถลบบัญชีปลอมประมาณ 2.2 พันล้านบัญชีระหว่างเดือนมกราคมถึงมีนาคม 2019 ถือเป็นการลบบัญชีปลอมครั้งใหญ่ที่สุดเท่าที่เคยมีมาในไตรมาสเดียว โดยในไตรมาสที่สี่ของปี 2018 Facebook ได้ลบบัญชีปลอม 1.2 พันล้านบัญชี และในไตรมาสแรกของปี 2018 ได้ลบบัญชีปลอม 750,000 บัญชี มาร์ค ซัคเคอร์เบิร์ก (Mark Zuckerberg) CEO ของ Facebook บอกกับสื่ออย่างมั่นใจว่า “เรากำลังกำจัดบัญชีปลอมให้มากขึ้นกว่าเดิม” มันเป็นสัญญาณที่ดีว่า Facebook กำลังเพิ่มการดูแลบัญชีปลอมและผู้ไม่หวังดีอื่นๆ บนแพลตฟอร์มของตน

หมายเหตุ:

สแปม (Spam) คือ การส่งอีเมลที่มีข้อความโฆษณาไปให้โดยไม่ได้รับอนุญาตจากผู้รับ การสแปมส่วนใหญ่ทำเพื่อการโฆษณาเชิงพาณิชย์ มักจะเป็นสินค้าที่น่าสงสัย หรือการเสนองานที่ให้รายได้อย่างรวดเร็ว หรือบริการที่ก้ำกึ่งผิดกฏหมาย 

ฟิชชิ่งสแกม (phishing scams) คือการหลอกลวงทางอินเทอร์เน็ต เมื่อมีบุคคลพยายามที่จะเข้าถึงบัญชีผู้ใช้ Facebook ของคุณด้วยการส่งข้อความหรือลิงก์ที่ไม่น่าไว้วางใจ ฟิชชิ่งมีรูปแบบที่หลากหลาย ทั้งอีเมล์ โปรไฟล์ในโซเชียลมีเดีย โพสต์ และข้อความ หรือเว็บไซต์ปลอม 

มัลแวร์ (malware) เป็นชื่อเรียกโดยรวมของโปรแกรมคอมพิวเตอร์ทุกชนิดที่ถูกออกแบบมาเพื่อมุ่งร้ายต่อคอมพิวเตอร์และเครือข่าย ไม่ว่าจะเป็น ไวรัส (Virus), วอร์ม (Worm), โทรจัน (Trojan), สปายแวร์ (Spyware) เป็นต้น

Facebook ใช้ AI ในการค้นหาและลบบัญชีปลอม

Deep Entity Classification (DEC)

cybersecurity-insiders.com

ในเดือนตุลาคม 2019 เฟชบุ๊ก (Facebook) ได้เปิดตัวเครื่องมือปัญญาประดิษฐ์หรือ AI (Artificial intelligence) ใหม่ของ Facebook ที่เรียกว่า Deep Entity Classification (DEC) เป็นเครื่องมือ Machine Learning ที่มีประโยชน์ในการระบุบัญชีปลอม สามารถวิเคราะห์คุณสมบัติมากกว่า 20,000 รายการต่อโปรไฟล์เพื่อตรวจจับบัญชีปลอม DEC ไม่เพียงแต่พิจารณา/ศึกษากิจกรรมของบัญชีผู้ต้องสงสัย แต่ยังประเมินข้อมูลรอบข้างทั้งหมด รวมถึงพฤติกรรมของบัญชีและเพจที่บัญชีผู้ต้องสงสัยโต้ตอบด้วย

เมื่อเดือนมีนาคม 2020 Facebook ได้เปิดเผยผลลัพธ์ของการทำงานของ DEC Facebook อ้างว่าในช่วงสองปี 2018-2019 นับตั้งแต่มีการใช้งาน DEC ส่งผลให้บัญชีปลอมและบัญชีหลอกลวงบนแพลตฟอร์มลง 27% อย่างเป็นรูปธรรม และในปี 2019 DEC ช่วยให้ Facebook ทำการลบบัญชีปลอม 6.6 พันล้านบัญชีออกจากเครือข่ายโซเชียล รวมทั้งบล็อกความพยายามหลายล้านครั้งในการสร้างบัญชีใหม่ของผู้ไม่หวังดี

การทำงานของ DEC

เครื่องมือการจำแนกประเภท Deep Entity Classification (DEC) เป็นเครื่องมือที่ได้รับการออกแบบมาเพื่อเอาชนะข้อจำกัดของวิธีการตรวจจับบัญชีปลอมแบบเดิม ที่โดยทั่วไปจะเน้นที่โปรไฟล์ผู้ใช้และพฤติกรรมที่น่าสงสัยเพียงอย่างเดียว เช่น ชื่อ วันที่สร้างบัญชี จำนวนเพื่อนที่มี  หรือจำนวนคำขอเป็นเพื่อนที่ส่งไป ซึ่งอัลกอริทึมเก่าเหล่านี้เริ่มใช้ไม่ได้ผล เมื่อผู้โจมตีพบวิธีหลอกระบบโดยปรับพฤติกรรมของพวกเขา

DEC เป็นเครื่องมือ Machine Learning ที่มีการคัดกรองบัญชีหลายชั้น เป็นมากกว่าเครื่องมือที่ใช้ตรวจสอบกิจกรรมในบัญชีเท่านั้น แทนที่จะศึกษาคุณสมบัติโดยตรงของบัญชี DEC เรียนรู้ที่จะแยกความแตกต่างของผู้ใช้ปลอมและผู้ใช้จริงด้วยรูปแบบการเชื่อมต่อผ่านเครือข่าย เรียกสิ่งเหล่านี้ว่า “คุณลักษณะเชิงลึก” มันสามารถวิเคราะห์คุณสมบัติได้มากกว่า 20,000 รายการต่อโปรไฟล์สำหรับการตัดสินใจของ DEC ว่าเป็นของแท้หรือไม่ นั่นเป็นสิ่งที่มนุษย์ไม่สามารถทำได้

DEC ไม่เพียงแต่วิเคราะห์กิจกรรมแต่ละรายการของบัญชีผู้ใช้เท่านั้น แต่ยังรวมถึงผู้ใช้กลุ่มและเพจที่เชื่อมต่อด้วย เช่น ติดตามการโต้ตอบทางสังคมของบัญชีกับชุมชนเครือข่ายโซเชียล ตรวจสอบเพื่อนไม่ว่าจะเป็นภาพโปรไฟล์ ที่อยู่ IP เพื่อน ความคิดเห็น การกดไลค์ กลุ่มที่เข้าร่วม บุคคลที่โปรไฟล์ได้ติดต่อ เพจที่ติดตาม ฯลฯ ด้วยวิธีการแบบองค์รวมนี้ DEC สามารถทำแผนที่พฤติกรรมของแต่ละโปรไฟล์ได้อย่างมีประสิทธิภาพ จากการวิเคราะห์นี้ระบบสามารถแยกความแตกต่างระหว่างบัญชีที่ถูกต้องและบัญชีปลอมด้วยความแม่นยำสูงอย่างที่ไม่เคยปรากฏมาก่อน

จนถึงขณะนี้ DEC ได้ช่วยให้ Facebook สามารถขัดขวางบัญชีปลอมกว่า 6.ุ6 พันล้านบัญชีที่ผู้หลอกลวงและผู้ประสงค์ร้ายอื่นๆ สร้างหรือพยายามสร้างขึ้นเมื่อปีที่แล้ว บัญชีเหล่านี้ส่วนใหญ่ถูกตรวจจับได้ภายในไม่กี่นาทีขณะในขั้นตอนการสร้างบัญชี และแม้แต่บัญชีที่ได้สร้างไปแล้ว ก็มักจะถูกค้นพบก่อนที่ผู้ใช้จริงจะรายงาน

GIMS – Caméléon (YouTube)

“SybilEdge” AI ของ Facebook ตรวจจับบัญชีปลอมที่มีคำขอเป็นเพื่อนน้อยกว่า 20 คน

digitalinformationworld.com

เครือข่ายสังคมออนไลน์มักถูกกำหนดเป้าหมายโดยผู้ไม่ประสงค์ดีที่สร้างบัญชีปลอมเพื่อจุดประสงค์ในการละเมิด โดยทั่วไปการละเมิดจะดำเนินการในสามขั้นตอน ขั้นแรกผู้ไม่ประสงค์ดีจะสร้างบัญชี จากนั้นบัญชีเหล่านี้จำเป็นต้องสร้างการเชื่อมต่อกับผู้ใช้จริง เช่น การส่งคำขอเป็นเพื่อนบน Facebook สุดท้ายเมื่อพวกเขาสร้างการเชื่อมต่อได้เพียงพอแล้ว บัญชีปลอมอาจทำให้เครือข่ายโซเชียลของผู้ใช้จริงต้องเจอกับกิจกรรมที่เป็นอันตรายและการละเมิดต่างๆได้ ” แต่ทุกวันนี้ผู้ใช้ Facebook ส่วนใหญ่ระมัดระวังคำขอเป็นเพื่อนแบบสุ่มมากขึ้น ซึ่งหมายความว่าคำขอจากโปรไฟล์ปลอมจึงถูกปฏิเสธในอัตราที่สูงกว่าจากคนที่คุณรู้จักมาก

ในบทความเมื่อเดือนเมษายน 2020 ในบล็อกโพสต์ของ Facebook วิศวกรได้เปิดเผยอัลกอริทึม “SybilEdge” ซึ่งใช้ในการระบุบัญชีปลอมบนแพลตฟอร์มที่หลุดรอดจากตัวกรองต่อต้านการละเมิดของ Facebookในเวลาลงทะเบียน แต่บัญชีปลอมยังมีเพื่อนไม่มากพอที่จะขยายการละเมิด ซึ่ง SybilEdge สามารถตรวจจับบัญชี Facebook ปลอมได้ภายในเวลาไม่ถึงหนึ่งสัปดาห์โดยมีคำขอเป็นเพื่อนน้อยกว่า 20 คน

ในการออกแบบ SybilEdge ทีมพัฒนาพบว่าผู้ใช้ปลอมจะเพิ่มเป้าหมายในรายชื่อเพื่อน โดยการค้นหาแล้วส่งคำขอเป็นเพื่อนไป Facebook เฝ้าดูพฤติกรรมของบัญชีจริงและบัญชีปลอมมาระยะหนึ่งแล้วพบว่าผู้ใช้ทั้งสองกลุ่มมี “การกระทำแตกต่างกันอย่างมากในการเลือกเพื่อน” คำขอเป็นเพื่อนของบัญชีปลอมถูกปฏิเสธบ่อยกว่าคำขอของผู้ใช้จริง นอกจากนี้บัญชีปลอมมักจะระมัดระวังในการเลือกเป้าหมายคำขอเป็นเพื่อน บัญชีปลอมมักส่งคำขอเป็นเพื่อนกับผู้ใช้ที่มีแนวโน้มยอมรับคำขอไม่ว่าจะมาจากบัญชีจริงหรือบัญชีปลอม

Facebook ได้สร้างคลังข้อมูลขึ้นเพื่อฝึกอบรม SybilEdge โดยแบ่งผู้ใช้ออกเป็นสองกลุ่มดังนี้ ผู้ใช้ที่มักยอมรับคำขอเป็นเพื่อนจากบัญชีจริง และผู้ใช้ที่มักยอมรับคำขอแม้กระทั่งจากบัญชีปลอม ในกรณีที่ผู้ใช้ที่มักยอมรับคำขอจากผู้ใช้จริงปฏิเสธคำขอเป็นเพื่อน แสดงว่าผู้ร้องขอเป็นผู้ใช้จริง ในทางกลับกันหากผู้ใช้ที่มักยอมรับแม้กระทั่งคำขอจากบัญชีปลอม ยอมรับคำขอเป็นเพื่อน ก็บ่งบอกว่าผู้ร้องขออาจเป็นผู้ใช้ปลอม

SybilEdge ทำงานในสองขั้นตอน ขั้นแรกอัลกอริทึมได้รับการฝึกฝนโดยสังเกตตัวอย่างที่กล่าวถึงข้างต้น หลังจากนั้นจะใช้ประโยชน์จากผลลัพธ์จากตัวจำแนกพฤติกรรมและเนื้อหาของ Facebook ที่ตั้งค่าสถานะบัญชีผู้ใช้ตามการละเมิดจริง 

จากข้อมูลของ Facebook SybilEdge มีความแม่นยำสูงกว่า 90% ในการตรวจจับบัญชีปลอมที่มีคำขอเป็นเพื่อน 15 ราย และมีความแม่นยำ 80% ในการตรวจจับบัญชีปลอมพร้อมคำขอเป็นเพื่อน 5 ราย  ประสิทธิภาพในการทำงานของอัลกอริทึมไม่ได้ลดลง แม้ว่าจะมีคำขอเป็นเพื่อนเพิ่มขึ้นมากกว่า 45 คน 

SybilEdge ช่วยให้เราระบุตัวผู้กระทำผิดได้อย่างรวดเร็ว ในอนาคตอันใกล้นี้เราวางแผนที่จะค้นหาวิธีอื่นๆ เพื่อเพิ่มความเร็วในการตรวจจับบัญชีปลอมและตัดสินใจได้ดียิ่งขึ้นที่เร็วกว่า SybilEdge ของเรา” Facebook เขียนสรุป

Joel Adams – Fake Friends (YouTube)

• Facebook
• Twitter
• Line