ผลสำรวจจาก KPMG: ทำไมการคิดค่าบริการแบบโทเค็น (Token Billing) ถึงทำให้งบประมาณด้าน AI ขององค์กรคาดการณ์ได้ยาก

เหตุใดการเปลี่ยนไปใช้โมเดลราคาแบบโทเค็นจึงทำให้ค่าใช้จ่ายด้าน AI ขององค์กรคาดการณ์ได้ยาก? ผลสำรวจฉบับใหม่จาก KPMG เน้นย้ำถึงความท้าทายที่องค์กรต่างๆ กำลังเผชิญ นั่นคือการที่บริษัทไม่สามารถคาดการณ์ค่าใช้จ่ายได้แม่นยำเมื่อระบบ AI เปลี่ยนจากการสมัครสมาชิกแบบคงที่ (Fixed Subscription) มาเป็นราคาแบบคิดตามจำนวนโทเค็น (Token-based Pricing) ในขณะที่องค์กรนำ AI จากการทดลองไปใช้งานจริงในกระบวนการผลิตประจำวัน การควบคุมต้นทุนการประมวลผล (Inference Costs) ที่ผันแปรจึงกลายเป็นโจทย์เชิงปฏิบัติการใหม่ที่สำคัญ ในอดีตโมเดลค่าธรรมเนียมคงที่ช่วยป้องกันบริษัทจากความผันผวนของต้นทุนโครงสร้างพื้นฐานเบื้องหลังด้วยราคาต่อผู้ใช้งานหนึ่งราย แต่ในปัจจุบัน เนื่องจากแพลตฟอร์ม AI พึ่งพาโครงสร้างพื้นฐานแบบคิดตามการใช้งานและผู้ให้บริการโมเดลภายนอกมากขึ้น การสร้างแนวทางปฏิบัติในการตรวจสอบการใช้งานที่โปร่งใสและการระบุที่มาของค่าใช้จ่ายจึงกลายเป็นสิ่งจำเป็นสำหรับการดำเนินงานด้าน AI ในระดับองค์กร

เหตุใดข้อมูลสำรวจจาก KPMG ถึงมีความสำคัญ: การประสานการเชื่อมต่อ AI เข้ากับงบประมาณที่คาดการณ์ไม่ได้

โดยสรุป

• ผลสำรวจด้าน AI ทั่วโลกของ KPMG ล่าสุดพบว่าผู้บริหารจำนวนมากประสบปัญหาในการทำความเข้าใจและควบคุมต้นทุนการดำเนินงานด้าน AI
• การเปลี่ยนผ่านอย่างรวดเร็วจากการสมัครสมาชิกซอฟต์แวร์แบบเหมาจ่ายมาเป็นโมเดล "ใช้เท่าไหร่จ่ายเท่านั้น" ตามจำนวนโทเค็น ทำให้การคาดการณ์งบประมาณมีความผันผวนสูง
• รูปแบบการใช้งาน AI ที่ไม่มีประสิทธิภาพและการเรียกใช้งาน API โดยไม่ผ่านการตรวจสอบกำลังนำไปสู่ค่าใช้จ่ายรายเดือนที่บานปลายเกินความคาดหมายในหลายแผนกขององค์กร

ภูมิทัศน์ทางการเงินของการเชื่อมต่อซอฟต์แวร์ระดับองค์กรได้ผ่านการเปลี่ยนแปลงครั้งใหญ่ เป็นเวลากว่าทศวรรษที่โมเดลธุรกิจของเครื่องมือดิจิทัลอาศัยการสมัครสมาชิกซอฟต์แวร์ในฐานะบริการ (SaaS) แบบคงที่ องค์กรจ่ายในอัตราที่แน่นอนต่อผู้ใช้ ทำให้แผนกการเงินสามารถพยากรณ์ค่าใช้จ่ายในการดำเนินงานได้อย่างแม่นยำ ความสามารถในการคาดการณ์นี้ช่วยปกป้องบริษัทจากภาระต้นทุนโครงสร้างพื้นฐานเบื้องหลัง เนื่องจากผู้ให้บริการซอฟต์แวร์เป็นผู้แบกรับค่าใช้จ่ายเหล่านั้นไว้ในราคาแบบเหมารวมรายผู้ใช้

อย่างไรก็ตาม ในขณะที่ระบบสร้างสรรค์ขั้นสูง (Generative Systems) และโมเดลภาษาขนาดใหญ่ (LLMs) ย้ายเข้ามาอยู่ในกระบวนการธุรกิจหลัก ความสามารถในการคาดการณ์ราคาแบบคงที่นี้ก็เริ่มเลือนหายไป ผู้ให้บริการซอฟต์แวร์จำนวนมากกำลังเปลี่ยนภาระต้นทุนโครงสร้างพื้นฐานไปสู่โมเดลราคาตามการใช้งานจริง เนื่องจากคำสั่งใช้งานแต่ละครั้งต้องใช้จำนวนโทเค็นที่แปรผันตามความซับซ้อนของคำสั่งและความยาวของบริบท ผู้ให้บริการซอฟต์แวร์จึงผลักภาระทางการเงินไปให้กับผู้ใช้งานโดยตรง ผลกระทบทางการเงินของการเปลี่ยนแปลงนี้ขยายวงกว้างเกินกว่าแค่เรื่องของธรรมาภิบาลด้าน IT

ตามผลสำรวจจาก KPMG ซึ่งสำรวจผู้บริหารระดับสูง 2,145 คนใน 20 ประเทศ พบว่าประมาณ 29% ของผู้ตอบแบบสอบถามไม่สามารถระบุแหล่งที่มาของค่าใช้จ่าย AI ที่เพิ่มขึ้นได้อย่างชัดเจน ในขณะที่เกือบหนึ่งในสามยอมรับว่าไม่เข้าใจเศรษฐศาสตร์เบื้องหลังการใช้โทเค็น ในการปรับใช้ทั่วไป พนักงานและตัวแทนอัตโนมัติสามารถสร้างคำสั่งจำนวนมากโดยไม่มีขอบเขตการใช้งานที่ชัดเจน ส่งผลให้เกิดค่าใช้จ่ายพุ่งสูงขึ้นอย่างไม่คาดคิด สำหรับองค์กรขนาดใหญ่ ค่าใช้จ่ายด้าน AI ที่คาดการณ์ไม่ได้เหล่านี้ยังสร้างความท้าทายใหม่ๆ ให้กับทีมวางแผนการเงิน ทีมจัดซื้อ และทีมกำกับดูแลอีกด้วย

สาเหตุเชิงระบบ: ธรรมชาติที่ยากจะหยั่งถึงของการประมวลผลแบบโทเค็น

ในระดับเทคนิค ความผันผวนสูงของราคา AI เกิดจากธรรมชาติของการประมวลผลแบบโทเค็น ต่างจากเว็บแอปพลิเคชันทั่วไปที่ประมวลผลผ่านการสืบค้นฐานข้อมูลแบบมาตรฐาน LLMs จะประมวลผลข้อมูลผ่านโทเค็น ซึ่งเป็นหน่วยพื้นฐานทางภาษาของการเรียนรู้ของเครื่อง ทุกคำสั่งจะถูกแปลงเป็นโทเค็นซึ่งจะถูกนับเป็นหน่วยต้นทุนทั้งฝั่งขาเข้าและขาออก

เนื่องจาก LLMs จะเก็บสถานะความสนใจก่อนหน้าไว้ผ่าน Key-Value (KV) Cache ระหว่างการสร้างข้อมูล ความต้องการหน่วยความจำและต้นทุนการประมวลผลจึงเพิ่มขึ้นตามการขยายตัวของหน้าต่างบริบท (Context Windows) ในกระบวนการพัฒนาทั่วไป การสืบค้นของเอเจนต์หลายขั้นตอนเพียงครั้งเดียวอาจใช้โทเค็นหลายพันหน่วยในเวลาไม่กี่วินาที ทำให้คำถามง่ายๆ กลายเป็นรายการธุรกรรมเซิร์ฟเวอร์ที่มีค่าใช้จ่ายสูง

[SaaS แบบราคาคงที่ที่คาดการณ์ได้]
  ชำระเงินรายเดือนแบบเหมารวม ──> เข้าถึงแพลตฟอร์มได้ไม่จำกัด ──> ค่าใช้จ่ายดำเนินงานคงที่ ไม่มีค่าส่วนเกิน


[การใช้งานแบบใช้โทเค็นที่มีความผันผวน]
  คำสั่งผู้ใช้ที่ผันแปร ──> การใช้งานโทเค็นแบบไดนามิก (การสะสม KV Cache) ──> การเรียกเก็บเงินที่คาดการณ์ไม่ได้และผันผวน

ความขาดแคลนในการคาดการณ์นี้ยังซ้ำเติมด้วยรูปแบบความรับผิดชอบร่วมในด้านความปลอดภัยไซเบอร์ เหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับมิดเดิลแวร์ AI ที่ถูกบุกรุกแสดงให้เห็นว่าข้อมูลรับรอง API ที่รั่วไหลสามารถสร้างความเสี่ยงต่อการใช้งานที่ไม่คาดคิดได้ เหตุการณ์การโจมตีห่วงโซ่อุปทานที่มุ่งเป้าไปที่พร็อกซี AI แบบโอเพนซอร์สเมื่อเร็วๆ นี้ช่วยให้ผู้โจมตีสามารถดักจับและจัดเก็บคีย์ API ส่วนตัวได้

ในเหตุการณ์ที่ได้รับการบันทึกไว้ ทีมพัฒนาขนาดเล็กแห่งหนึ่งได้รับผลกระทบทางการเงินอย่างรุนแรง โดยมียอดเรียกเก็บเงินจากการเรียกใช้งานโมเดลเชิงพาณิชย์โดยไม่ได้รับอนุญาตสูงถึงหลายหมื่นดอลลาร์ภายในเวลาเพียง 48 ชั่วโมง อ้างอิงจากรายงานอุบัติการณ์ด้านความปลอดภัยของอุตสาหกรรม ช่องว่างระหว่างธุรกรรมบนเครือข่ายแบบเรียลไทม์กับการแสดงผลทางการเงินที่ล่าช้านี้สร้างช่องโหว่ด้านความปลอดภัยที่ไฟร์วอลล์แบบดั้งเดิมไม่สามารถป้องกันได้

บทเรียนที่กว้างกว่าคือระบบแบบกระจาย (Distributed Systems) ต้องการกลไกที่เชื่อถือได้เพื่อรักษาบริบทเมื่อการทำงานย้ายข้ามสภาพแวดล้อมที่เป็นอิสระ ความท้าทายในการรักษาสถานะที่คล้ายคลึงกันนี้ปรากฏอยู่ในระบบ Mobile Attribution ซึ่งบริบทของการได้มาซึ่งผู้ใช้จะต้องคงอยู่เมื่อเปลี่ยนผ่านระหว่างเบราว์เซอร์, App Store และแอปพลิเคชันเนทีฟ เมื่อข้อมูลอ้างอิงของเบราว์เซอร์หายไปหรือคุกกี้ถูกบล็อก ระบบ Attribution จะต้องอาศัยการจับคู่สถานะฝั่งเซิร์ฟเวอร์ (Server-side State Matching) เพื่อเชื่อมโยงเหตุการณ์แยกส่วนเข้าด้วยกันโดยไม่ละเมิดความเป็นส่วนตัวของผู้ใช้

สร้างเอง vs ซื้อ: การเปรียบเทียบแนวทางการรักษาบริบท

แม้ว่าจะแก้ปัญหาทางธุรกิจที่แตกต่างกัน แต่สถาปัตยกรรมทั้งสองแบบจำเป็นต้องรักษาบริบทการดำเนินงานข้ามระบบแบบกระจายที่สถานะฝั่งไคลเอ็นต์ไม่น่าเชื่อถือ การจัดการกระบวนการทำงานด้าน AI และแอปพลิเคชันดิจิทัลแบบกระจายต้องใช้ทีมงานในการประเมินว่าจะสร้างระบบสถานะแบบกำหนดเองหรือนำโครงสร้างพื้นฐานที่เป็นมาตรฐานมาปรับใช้ การพัฒนาแนวทางทางเทคนิคที่แข็งแกร่งเพื่อรับมือกับความเสี่ยงที่เปิดเผยในผลสำรวจของ KPMG จำเป็นต้องมีการผสมผสานระหว่างการเฝ้าระวังแบบเรียลไทม์และการปรับแต่งซอฟต์แวร์ ทีมพัฒนาต้องประเมินว่าจะสร้างฐานข้อมูลจับคู่เซสชันเองหรือเลือกซื้อ SDK สำหรับการเชื่อมต่อที่ได้มาตรฐาน

การประเมินสถาปัตยกรรม: การสร้างเอง vs SDK มาตรฐาน

ตารางด้านล่างเปรียบเทียบวิธีการมาตรฐานสำหรับการจัดการสถานะเซสชันและบริบทการแปลงผลลัพธ์:

ในขณะที่การตั้งค่าฐานข้อมูลเองสามารถจัดการบริบทพื้นฐานได้ การรักษาสถานะฝั่งเซิร์ฟเวอร์แบบเฉพาะทางสามารถเพิ่มประสิทธิภาพทรัพยากรการพัฒนาได้ ขึ้นอยู่กับความต้องการในการใช้งาน องค์กรอาจเลือกสร้างระบบจัดการเซสชันฝั่งเซิร์ฟเวอร์ของตนเองหรือเลือกใช้แพลตฟอร์มเชิงพาณิชย์ ตัวอย่างเช่น OpoInstall มอบกลไกฝั่งเซิร์ฟเวอร์สำหรับการกู้คืนพารามิเตอร์แคมเปญและการทำ deferred deep linking ช่วยให้องค์กรสามารถรักษาบริบทการ Attribution ข้ามการเปลี่ยนผ่านจากเว็บไปยังแอปได้โดยไม่ต้องพึ่งพาตัวระบุฝั่งไคลเอ็นต์ ความสามารถเหล่านี้ช่วยให้การนำ Attribution ไปใช้งานง่ายขึ้นและคงบริบทของแคมเปญไว้ได้โดยไม่จำเป็นต้องสร้างโครงสร้างพื้นฐานจับคู่บริบทเอง ทีมวิศวกรรมสามารถประเมินแนวทางเหล่านี้เพื่อสร้างความสมดุลระหว่างการปกป้องข้อมูลและความสม่ำเสมอในการวัดผล

รายการตรวจสอบการเชื่อมต่อ: เตรียมโครงสร้างพื้นฐานของคุณให้พร้อมสำหรับการใช้งานที่เบาและคุ้มค่า

เพื่อปกป้องท่อส่งข้อมูลและสร้างความมั่นใจในความสม่ำเสมอของการแปลงผลลัพธ์ในขณะที่แพลตฟอร์มเปลี่ยนไปสู่โมเดลข้อมูลฝั่งเซิร์ฟเวอร์ ทีมวิศวกรและผลิตภัณฑ์จะต้องนำกระบวนการรักษาสถานะที่แข็งแกร่งมาใช้

รายการตรวจสอบสำหรับทีมพัฒนา

• บังคับใช้การหมุนเวียนคีย์และการสแกน: นำโปรโตคอลการจัดการคีย์ที่แข็งแกร่งมาใช้ รวมถึงการควบคุมการเข้าถึงที่เข้มงวด การสแกนข้อมูลลับภายในซอร์สโค้ด และการเปลี่ยนคีย์รับรองอย่างสม่ำเสมอ อย่าฝังคีย์ไว้ในโค้ดฝั่งไคลเอ็นต์หรือที่เก็บข้อมูลสาธารณะโดยเด็ดขาด
• กำหนดเพดานการเงิน: ตั้งค่าจำกัดการใช้จ่ายรายวัน และเปิดใช้การแจ้งเตือนการเรียกเก็บเงินแบบเรียลไทม์สำหรับการเชื่อมต่อ API ภายนอกทั้งหมด
• ตรวจสอบการพึ่งพาบริการ AI จากภายนอก: ประเมินขนาดและการคอมไพล์ของไลบรารีที่เชื่อมต่อทั้งหมดอย่างสม่ำเสมอเพื่อป้องกันปัญหาคอขวดด้านประสิทธิภาพ

รายการตรวจสอบสำหรับทีมผลิตภัณฑ์และกลยุทธ์การเติบโต

• ตรวจสอบแหล่งที่มาของการใช้งาน AI: ติดตามที่มาของการใช้งานโมเดล ปริมาณการเรียกใช้ และการจัดสรรค่าใช้จ่ายข้ามทีมภายในและผู้ให้บริการภายนอก
• ทบทวนค่าใช้จ่าย API จากบุคคลภายนอก: ติดตามรูปแบบการใช้ API และระบุกระบวนการทำงานที่มีราคาสูงเกินจำเป็น
• สร้างเส้นทางข้อมูลที่โปร่งใส: ตั้งค่าพารามิเตอร์ที่ชัดเจนเพื่อติดตามเส้นทางการไหลของข้อมูลและรอยเท้าของทรัพยากรข้ามแพลตฟอร์ม
• วัดความคุ้มค่าของการทำงานด้าน AI (ROI): ประเมินว่าไลบรารีหรือ SDK ที่เชื่อมต่อแต่ละรายการส่งผลต่อภาพรวมของงบประมาณการดำเนินงานอย่างไรเพื่อกำจัดการเรียกเก็บเงินที่ซ้ำซ้อน

ด้วยการกำหนดแนวทางปฏิบัติที่ชัดเจนเหล่านี้ ทีมพัฒนาสามารถเปลี่ยนแอปพลิเคชันไปสู่สถาปัตยกรรมที่ปลอดภัยและเป็นไปตามข้อกำหนดมากขึ้น พร้อมทั้งรักษาความต่อเนื่องในการดำเนินงาน

ในขณะที่แพลตฟอร์ม AI ปรับตัวให้เข้ากับข้อกำหนดทางกฎหมายใหม่ ทีมวิศวกรรมจะพึ่งพาการตรวจสอบการใช้งานที่โปร่งใส การกำกับดูแล API ที่ปลอดภัย และการจัดการบริบทฝั่งเซิร์ฟเวอร์มากขึ้นเรื่อยๆ สถาปัตยกรรม AI ที่พัฒนาขึ้นจำเป็นต้องเปลี่ยนผ่านไปสู่การตรวจสอบการใช้งานที่เชื่อถือได้ การกำกับดูแลที่ปลอดภัย และการจัดการต้นทุนที่โปร่งใส

องค์กรที่รวมการตรวจสอบต้นทุนอย่างโปร่งใสเข้ากับการจัดการบริบทข้ามแพลตฟอร์มที่ปลอดภัยจะสามารถสร้างโครงสร้างพื้นฐานดิจิทัลที่คาดการณ์ได้และขยายตัวได้ดีขึ้น การใช้สถาปัตยกรรมการแคชแบบกระจาย ข้อมูลเมตาที่มีการลงลายมือชื่อดิจิทัล และกรอบการทำงานสำหรับส่งต่อพารามิเตอร์ที่แข็งแกร่ง จะช่วยปกป้องท่อส่งการดำเนินงานจากคอขวดของการรับส่งข้อมูล แนวทางปฏิบัติเหล่านี้ช่วยให้องค์กรสามารถสร้างระบบ AI และแอปพลิเคชันแบบกระจายที่มีพฤติกรรมการทำงานที่คาดการณ์ได้แม่นยำยิ่งขึ้น