การประเมินต้นทุนของ Generative AI เพื่อการใช้งานอย่างมีประสิทธิผลในองค์กรของคุณ

ประเด็นสำคัญบางประการเกี่ยวกับค่าใช้จ่ายในการนำปัญญาประดิษฐ์ (AI) ไปใช้

• ค่าใช้จ่ายในการปรับใช้ generative AI ในธุรกิจอาจมีตั้งแต่ไม่กี่ร้อยดอลลาร์ต่อเดือนไปจนถึง 190,000 ดอลลาร์ (และเพิ่มขึ้นเรื่อยๆ) สำหรับโซลูชัน generative AI ที่ออกแบบตามความต้องการโดยอิงจากโมเดลโอเพ่นซอร์สที่ได้รับการปรับแต่งอย่างละเอียด
• ความแตกต่างของต้นทุน AI เชิงสร้างสรรค์นี้ขับเคลื่อนโดยปัจจัยหลายประการ รวมถึงงานที่คุณต้องการปรับปรุง โมเดลที่เหมาะสมกับงานเหล่านั้นมากที่สุด และแนวทางการใช้งานที่เลือก
• เพื่อเพิ่มประสิทธิภาพค่าใช้จ่ายที่เกี่ยวข้อง คุณต้องพิจารณาข้อกำหนดของโครงการของคุณอย่างรอบคอบ ประเมินค่าใช้จ่ายในองค์กรและโครงสร้างพื้นฐานระบบคลาวด์ และเลือกระหว่างการจ้างผู้มีความสามารถด้าน AI ภายในองค์กรและจ้างบุคคลภายนอกให้โครงการกับบุคคลที่สาม

เราได้บอกคุณไปแล้วว่า AI เจนเนอเรชั่น (gen AI) เปรียบเทียบกับ AI แบบดั้งเดิมได้อย่างไร นอกจากนี้เรายังได้สรุปข้อดีและข้อเสียของเทคโนโลยีนี้ด้วย ทีมที่ปรึกษา ITRex generative AI ยังได้เจาะลึกกรณีการใช้งานของ gen AI ในอุตสาหกรรมต่างๆ รวมถึงการดูแลสุขภาพ การค้าปลีก และห่วงโซ่อุปทาน

นอกจากนี้ เราได้ประเมินต้นทุนของการสร้างระบบ AI และโครงสร้างพื้นฐาน และขยายค่าใช้จ่ายด้านแมชชีนเลิร์นนิง (ML) คำนวณค่าใช้จ่ายที่เกี่ยวข้องกับการเตรียมข้อมูลการฝึกอบรม การปรับแต่งโมเดลอย่างละเอียด และการปรับใช้โซลูชันที่ขับเคลื่อนด้วย ML

ตอนนี้ถึงเวลาถอดรหัสต้นทุนการใช้งาน Gen AI ในธุรกิจแล้ว การวิเคราะห์นี้อาจเป็นเรื่องที่ท้าทาย เนื่องจากเรายังไม่ทราบข้อมูลเฉพาะของโครงการของคุณ อย่างไรก็ตาม เราสามารถใช้ประโยชน์จากความเชี่ยวชาญในการให้คำปรึกษา Gen AI ของเราในการสำรวจราคาบริการและระบุปัจจัยสำคัญเบื้องหลังต้นทุนโครงการ Gen AI ด้วยวิธีนี้ เราจะจัดเตรียมความรู้ให้กับคุณในการตัดสินใจอย่างมีข้อมูล ซึ่งอาจช่วยประหยัดเวลาและทรัพยากรของธุรกิจของคุณได้มากในภูมิทัศน์ทางเทคโนโลยีที่พัฒนาอย่างรวดเร็วนี้

สนใจ? งั้นมาดำดิ่งกันเลย!

ปัจจัยที่ส่งผลต่อต้นทุนของ Gen AI: การเลือกแบบจำลองและแนวทางการดำเนินงาน

เมื่อคิดถึงการรวม Gen AI เข้ากับกลุ่มเทคโนโลยีของบริษัทของคุณ สิ่งสำคัญคือต้องพิจารณาสิ่งต่อไปนี้:

• งานทางธุรกิจใดที่คุณจะปรับปรุงด้วย generative AI
• โมเดลใดจะเพียงพอสำหรับงานเหล่านี้?

หัวใจของโซลูชัน generative AI คือโมเดลพื้นฐาน เช่น โมเดลขนาดใหญ่ที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลจำนวนมหาศาล โดยพื้นฐานแล้ว โมเดลพื้นฐานทำหน้าที่เป็นพื้นฐานสำหรับการสร้างโซลูชัน Gen AI ตามความต้องการ ลดความซับซ้อนของกระบวนการพัฒนา และลดต้นทุน Gen AI โดยทั่วไปความสามารถของพวกเขาได้แก่การประมวลผลภาษาธรรมชาติ (NLP) คอมพิวเตอร์วิทัศน์ (CV) และการสร้างเนื้อหา

ความสามารถในการรับรู้ของโมเดลพื้นฐานส่วนใหญ่ขึ้นอยู่กับจำนวนพารามิเตอร์ที่พวกเขาได้รับการฝึกอบรม ในบริบทนี้ พารามิเตอร์หมายถึงองค์ประกอบของโมเดลที่เรียนรู้จากข้อมูลการฝึก เช่น น้ำหนักในโครงข่ายประสาทเทียม พารามิเตอร์เหล่านี้ช่วยให้โมเดลตัดสินใจและคาดการณ์ได้ ตารางต่อไปนี้แสดงความสัมพันธ์ระหว่างจำนวนพารามิเตอร์ — โดยพื้นฐานแล้ว คือ ปริมาณขององค์ประกอบการตัดสินใจเหล่านี้ — และความสามารถในการรับรู้ของแบบจำลอง

อย่างไรก็ตาม จำนวนพารามิเตอร์ไม่ใช่ปัจจัยเดียวที่มีอิทธิพลต่อความสามารถของแบบจำลองพื้นฐาน คุณภาพและความหลากหลายของข้อมูลการฝึกอบรมมีความสำคัญไม่แพ้กัน ข้อมูลการฝึกอบรมคือข้อมูลที่ป้อนเข้าสู่แบบจำลองซึ่งเรียนรู้จากข้อมูลนั้น ข้อมูลดังกล่าวครอบคลุมตัวอย่างมากมายที่ช่วยให้โมเดลเข้าใจและตีความข้อมูลใหม่ นอกจากนี้ สถาปัตยกรรมของแบบจำลอง เช่น การออกแบบโครงสร้างของวิธีที่พารามิเตอร์และข้อมูลโต้ตอบกัน และประสิทธิภาพของอัลกอริธึมการเรียนรู้ ซึ่งกำหนดว่าแบบจำลองเรียนรู้จากข้อมูลได้อย่างมีประสิทธิภาพเพียงใด มีบทบาทสำคัญ ด้วยเหตุนี้ ในบางงาน โมเดลที่มีพารามิเตอร์น้อยกว่าแต่ข้อมูลการฝึกที่ดีกว่าหรือสถาปัตยกรรมที่มีประสิทธิภาพมากกว่าจึงสามารถทำงานได้ดีกว่าโมเดลที่ใหญ่กว่า

การเลือกโมเดลพื้นฐานที่ตรงกับความคาดหวังของคุณเกี่ยวกับต้นทุนของ Gen AI

โมเดล Gen AI ที่มีอยู่ทั้งหมดสามารถแบ่งออกได้เป็น 2 ประเภทอย่างคร่าวๆ

• โมเดลแบบปิดได้ รับการพัฒนาโดยบริษัทเทคโนโลยีขนาดใหญ่ เช่น Google, Meta, Microsoft และ OpenAI ซอร์สโค้ด สถาปัตยกรรม และ Application Programming Interface (API) เหล่านี้อาจเป็นกรรมสิทธิ์โดยสมบูรณ์หรือเปิดให้บุคคลที่สามใช้งานได้ (โดยปกติจะมีค่าธรรมเนียม ซึ่งก็คือต้นทุนหลักของโซลูชัน Gen AI) ในบางกรณี คุณสามารถปรับแต่งประสิทธิภาพของโมเดลโอเพนซอร์สได้อย่างละเอียดโดยใช้ข้อมูลของคุณ สำหรับวัตถุประสงค์ของบทความนี้ เราจะอ้างถึงโมเดลแบบปิดว่าเป็นโซลูชัน Gen AI ที่มีจำหน่ายในท้องตลาด ข้อได้เปรียบที่สำคัญของโมเดลดังกล่าวคือมาพร้อมกับโครงสร้างพื้นฐานระบบคลาวด์และได้รับการดูแลอย่างเต็มที่โดยนักพัฒนาดั้งเดิม
• โมเดลโอเพ่นซอร์ส มีซอร์สโค้ด เทคนิคการฝึกอบรม และบางครั้งก็มีข้อมูลการฝึกอบรมเพื่อการใช้งานสาธารณะและการแก้ไข บริษัทของคุณสามารถใช้โมเดลดังกล่าว "ตามสภาพ" หรือฝึกโมเดลใหม่โดยใช้ข้อมูลของตนเองเพื่อให้ได้ความแม่นยำและประสิทธิภาพที่ดีขึ้น อย่างไรก็ตาม คุณจะต้องตั้งค่าโครงสร้างพื้นฐานภายในองค์กรหรือระบบคลาวด์เพื่อให้โมเดลทำงานต่อไป ดังนั้น ค่าใช้จ่ายของโมเดล Gen AI ดังกล่าวจะรวมค่าใช้จ่ายในการประมวลผล และหากคุณเลือกที่จะปรับปรุงโซลูชัน Gen AI ก็จะรวมค่าใช้จ่ายที่เกี่ยวข้องกับการฝึกโมเดลด้วย

มาสรุปกัน หากบริษัทของคุณกำลังพิจารณาการนำ Gen AI ไปใช้ มีสี่วิธีหลักในการดำเนินการดังกล่าว

1. การใช้โมเดลโอเพนซอร์สโดยไม่ต้องปรับแต่ง: ผู้บุกเบิก Gen AI สามารถรวมผลิตภัณฑ์ที่มีอยู่ทั่วไป เช่น ChatGPT ของ OpenAI, Google Bard, Claude และ Synthesia เข้ากับแอปพลิเคชันของตนโดยใช้ API กระบวนการบูรณาการค่อนข้างตรงไปตรงมา และการกำหนดราคา AI เชิงสร้างสรรค์ก็เช่นกัน (เพิ่มเติมในภายหลัง) ผลิตภัณฑ์ที่มีจำหน่ายในท้องตลาดได้รับการอัปเดตบ่อยครั้งและมีเอกสารประกอบที่ครอบคลุมสำหรับนักพัฒนา AI ข้อเสีย? ตัวเลือกการปรับแต่งของคุณจะถูกจำกัด และคุณจะต้องพึ่งพาบริษัทภายนอกเป็นอย่างมากสำหรับงานทางธุรกิจที่สำคัญ เช่น การจัดการข้อสงสัยด้านการสนับสนุนลูกค้าหรือการผลิตเนื้อหาภาพ
2. ฝึกอบรมโซลูชันที่มีวางจำหน่ายทั่วไปเกี่ยวกับข้อมูลองค์กรของคุณ: ในสถานการณ์นี้ ทีม AI ภายในของคุณจะเลือกผลิตภัณฑ์ AI รุ่นที่มีอยู่ซึ่งพัฒนาโดยผู้จัดจำหน่ายเฉพาะ เช่น OpenAI และปรับแต่งโดยใช้ข้อมูลของคุณเอง โซลูชัน Gen AI แบบกำหนดเองจะเข้าใจคำถามของผู้ใช้ได้ดีขึ้นและให้คำตอบที่แม่นยำยิ่งขึ้น อย่างไรก็ตาม ผู้จำหน่ายจะยังคงเรียกเก็บค่าธรรมเนียมเล็กน้อยสำหรับการเรียกใช้คำถามของคุณ ดังนั้นต้นทุน AI รุ่นสุดท้ายจะประกอบด้วยทั้งค่าใช้จ่ายในการดำเนินงานและการปรับแต่ง
3. การใช้โมเดลพื้นฐานแบบโอเพ่นซอร์ส “ตามสภาพ”: พูดเกินจริงว่าบริษัทของคุณสามารถเลือก RoBERTa, GPT-2, GPT-Neo หรือโมเดลโอเพ่นซอร์สอื่นๆ และนำไปใช้กับงานทางธุรกิจ เช่น การตอบอีเมลลูกค้าโดยไม่ต้องมีการฝึกอบรมเพิ่มเติม อย่างไรก็ตาม ค่าใช้จ่ายของ Gen AI จะถูกกำหนดโดยทรัพยากรการประมวลผลที่โมเดลใช้ โซลูชัน Gen AI ของคุณอาจมีประสิทธิภาพต่ำกว่าปกติเมื่อต้องเผชิญกับข้อมูลและงานที่ไม่คุ้นเคย
4. ฝึกอบรมโมเดลโอเพ่นซอร์สใหม่กับข้อมูลของคุณ: ในกรณีนี้ คุณจะต้องได้รับและเตรียมข้อมูลเฉพาะสำหรับการฝึกโมเดล Gen AI จัดเตรียมเซิร์ฟเวอร์ภายในองค์กรหรือบนคลาวด์สำหรับการฝึกโมเดลและการดำเนินงาน และปรับแต่งและอัปเดตต่อไป แบบจำลองเมื่องานของคุณพัฒนาขึ้น แม้ว่าแนวทางที่ออกแบบตามความต้องการนี้จะรับประกันประสิทธิภาพของโมเดลที่เหนือกว่า แต่ก็มีต้นทุน AI เจนเนอเรชันที่สูงกว่าด้วย

เมื่อคุณทราบตัวเลือกการใช้งานของคุณแล้ว เรามาดูรายละเอียดค่าใช้จ่ายของ Gen AI ที่เกี่ยวข้องกับตัวเลือกเหล่านี้กันดีกว่า

เจาะลึกราคา Gen AI ตามสถานการณ์การใช้งาน

ต้นทุนของเครื่องมือ Gen AI ที่มีจำหน่ายทั่วไป

บริการนอกชั้นวางที่อำนวยความสะดวกในการประมวลผลและการสร้างข้อความ โดยทั่วไปจะเรียกเก็บเงินจากองค์กรตามจำนวนอักขระหรือโทเค็น กล่าวคือ หน่วยพื้นฐานของข้อความ ซึ่งมีตั้งแต่เครื่องหมายวรรคตอนไปจนถึงคำและองค์ประกอบอื่นๆ ของไวยากรณ์ ในข้อความอินพุตหรือเอาต์พุต .

นี่คือวิธีการทำงานในทางปฏิบัติ

1. การเรียกเก็บเงินตามอักขระ: โซลูชันบางอย่าง เช่น เครื่องมือ Gen AI ที่ขับเคลื่อนโดย Vertex AI ของ Google จะเรียกเก็บเงินผู้ใช้ตามจำนวนอักขระในข้อความอินพุตและเอาต์พุต พวกเขานับตัวอักษร ตัวเลข ช่องว่าง และเครื่องหมายวรรคตอนแต่ละตัวเป็นอักขระ ตัวอย่างเช่น ราคา generative AI สำหรับ PaLM 2 สำหรับโมเดลข้อความที่รองรับโดย Vertex เริ่มต้นที่ 0.0005 ดอลลาร์ต่อ 1,000 อักขระสำหรับข้อความอินพุตและเอาต์พุต (เรียกเก็บเงินแยกต่างหาก)
2. การเรียกเก็บเงินตามโทเค็น: เครื่องมือ AI รุ่นขั้นสูงมีแนวโน้มที่จะแบ่งข้อความออกเป็นโทเค็นแทนที่จะเป็นอักขระ ขึ้นอยู่กับวิธีการฝึกอบรมและการประมวลผลของโมเดล โทเค็นอาจเป็นเครื่องหมายวรรคตอน คำ หรือส่วนหนึ่งของคำ ตัวอย่างเช่น OpenAI กำหนดโทเค็นเป็นกลุ่มอักขระประมาณสี่ตัว ประโยคง่ายๆ เช่น “ทอมเอาดอกไม้จิลมา” ดังนั้นจะประกอบด้วยโทเค็นแปดโทเค็น เนื่องจากคำว่า "นำมา" และ "ดอกไม้" เกินเกณฑ์สี่อักขระเล็กน้อย เมื่อพูดถึงต้นทุนของโซลูชัน AI ที่สร้างดังกล่าว ส่วนใหญ่จะขึ้นอยู่กับโมเดลภาษาที่คุณเลือก GPT-4 Turbo ของ OpenAI หนึ่งในเครื่องมือที่ทันสมัยที่สุดในตลาด เรียกเก็บเงิน 0.01 ดอลลาร์ต่อ 1,000 โทเค็นสำหรับข้อความอินพุต และ 0.03 ดอลลาร์ต่อ 1,000 โทเค็นสำหรับข้อความเอาต์พุต สำหรับ GPT-3.5 Turbo เวอร์ชันเก่า ราคาจะถูกลงอย่างมาก ตั้งแต่ 0.001 ดอลลาร์ต่อโทเค็น 1,000 สำหรับการป้อนข้อความ จนถึง 0.002 ดอลลาร์ต่อ 1,000 โทเค็นสำหรับข้อความเอาต์พุต ควรสังเกตว่าผู้ให้บริการ AI รุ่นต่างๆ มีแนวคิดเกี่ยวกับอักขระและโทเค็นที่แตกต่างกัน . เพื่อเลือกตัวเลือกที่คุ้มค่าที่สุด คุณควรศึกษาเอกสารและแผนและพิจารณาว่าผลิตภัณฑ์ใดที่เหมาะกับความต้องการทางธุรกิจเฉพาะของคุณมากที่สุด ตัวอย่างเช่น หากงานของคุณเกี่ยวข้องกับการสร้างข้อความมากกว่าการวิเคราะห์ บริการ AI เชิงสร้างสรรค์ที่มีอัตราเอาต์พุตต่ำกว่าจะเหมาะสมกว่า

บริการ Gen AI สำหรับการสร้างเนื้อหาภาพมีแนวโน้มที่จะเรียกเก็บเงินจากผู้ใช้ต่อภาพที่สร้างขึ้น โดยมีค่าธรรมเนียมขึ้นอยู่กับขนาดและคุณภาพของภาพ รูปภาพขนาด 1024 x 1024 พิกเซลที่ผลิตโดย DALL·E 3 ในคุณภาพมาตรฐานจะมีราคา 0.04 ดอลลาร์ สำหรับรูปภาพขนาดใหญ่ (1024×1792 พิกเซล) รวมถึงรูปภาพที่มีความละเอียดสูง ราคาอาจสูงถึง 0.08–0.12 ดอลลาร์ต่ออัน

และอย่าลืมเกี่ยวกับแพลตฟอร์ม AI เจนเนอเรชันแบบเทิร์นคีย์ เช่น Synthesia.io ซึ่งใช้แนวทางการกำหนดราคาแบบดั้งเดิมมากกว่า หากทีมการตลาดของคุณต้องการเร่งกระบวนการสร้างวิดีโอ คุณสามารถลองใช้เครื่องมือนี้ได้ในราคาเพียง 804 ดอลลาร์ต่อปี

ค่าใช้จ่ายในการปรับแต่งผลิตภัณฑ์ Gen AI ที่มีจำหน่ายในท้องตลาด

ดังที่คุณเห็นจากส่วนก่อนหน้านี้ ผลิตภัณฑ์ Gen AI สำเร็จรูปส่วนใหญ่ใช้ประโยชน์จากกลยุทธ์การสร้างรายได้แบบจ่ายตามการใช้งาน

แม้ว่าโมเดลการกำหนดราคาจะดูค่อนข้างตรงไปตรงมาเมื่อมองแวบแรก แต่การคาดการณ์ว่าพนักงานของคุณจะเรียกใช้แบบสอบถามจำนวนเท่าใด อาจเป็นเรื่องยาก โดยเฉพาะอย่างยิ่งหากคุณต้องการสำรวจกรณีการใช้งาน AI เจนเนอเรชันหลายรายการในแผนกต่างๆ

สิ่งนี้ทำให้เกิดความสับสนเกี่ยวกับราคาของเครื่องมือ Gen AI และต้นทุนรวมในการเป็นเจ้าของ เช่นเดียวกับในช่วงแรก ๆ ของการประมวลผลแบบคลาวด์

ข้อเสียอีกประการหนึ่งของการใช้โซลูชัน AI รุ่นเชิงพาณิชย์ก็คือผลิตภัณฑ์ที่ใช้งานทั่วไป เช่น ChatGPT ขาดความรู้ตามบริบท เช่น ความคุ้นเคยกับโครงสร้าง ผลิตภัณฑ์ และบริการของบริษัทของคุณ ทำให้เป็นการยากที่จะขยายการดำเนินงาน เช่น การสนับสนุนลูกค้า และการสร้างรายงานด้วยความสามารถของ AI แม้ว่าคุณจะเชี่ยวชาญด้านวิศวกรรมพร้อมท์ก็ตาม

Eric Lamarre หุ้นส่วนอาวุโสของ McKinsey กล่าวว่า เพื่อแก้ไขปัญหานี้ องค์กรต่างๆ “จำเป็นต้องสร้างสภาพแวดล้อมของข้อมูลที่โมเดลสามารถใช้งานได้” กล่าวอีกนัยหนึ่ง คุณจะต้องฝึกอบรมเครื่องมือ Gen AI ที่มีวางจำหน่ายทั่วไปในข้อมูลองค์กรของคุณ รวมถึงข้อมูลที่ดึงมาจากแหล่งข้อมูลภายนอกผ่าน API

มีสองวิธีในการบรรลุเป้าหมาย — และปัจจัยหลายประการที่จะส่งผลกระทบต่อต้นทุนของ generative AI ในแต่ละสถานการณ์

การใช้แพลตฟอร์มซอฟต์แวร์ในฐานะบริการ (SaaS) ที่มีความสามารถ Gen AI

ผู้จำหน่าย SaaS ที่โดดเด่นหลายราย รวมถึง SAP, TIBCO Spotfire และ Salesforce กำลังเปิดตัวบริการ AI เชิงสร้างสรรค์ที่สามารถปรับแต่งได้อย่างละเอียดโดยใช้ข้อมูลลูกค้า ตัวอย่างเช่น Salesforce ได้เปิดตัว Einstein Copilot ซึ่งเป็นผู้ช่วย AI แบบสนทนาที่ดึงข้อมูลที่เป็นกรรมสิทธิ์จาก Salesforce Data Cloud เพื่อสร้างคำตอบเฉพาะบุคคลสำหรับคำถามของลูกค้า ข้อมูลที่ใช้โดยผู้ช่วยอัจฉริยะ ได้แก่ การสนทนา Slack, การวัดและส่งข้อมูลทางไกล, เนื้อหาระดับองค์กร และข้อมูลที่มีโครงสร้างและไม่มีโครงสร้างอื่นๆ

ลูกค้า Salesforce ยังสามารถสร้างโมเดล AI ทักษะ และการแจ้งเตือนแบบกำหนดเองได้โดยใช้ Prompt Builder และ Model Builder แบบไม่ต้องใช้โค้ดของ Einstein Copilot Studio ณ ขณะนี้ เครื่องมือหลังรองรับโมเดลภาษาขนาดใหญ่ (LLM) ของ OpenAI แต่มีแผนที่จะรวมผลิตภัณฑ์เข้ากับโซลูชันของบุคคลที่สามอื่น ๆ รวมถึง Amazon Bedrock และ Vertex AI เนื่องจาก Einstein Copilot ยังอยู่ในช่วงนำร่อง (ไม่มีเจตนาเล่นสำนวน) ข้อมูลการกำหนดราคา AI เชิงสร้างสรรค์จึงยังไม่ได้รับการเปิดเผย อย่างไรก็ตาม ค่าใช้จ่ายของผู้ช่วย generative AI Sales GPT ซึ่งปัจจุบันอยู่ที่ 50 ดอลลาร์สหรัฐฯ ต่อผู้ใช้ต่อเดือน อาจช่วยให้คุณพอเข้าใจถึงสิ่งที่คาดหวังได้

การรวมซอฟต์แวร์องค์กรของคุณเข้ากับโซลูชัน Gen AI บน API และโมเดลการฝึกอบรมใหม่ในข้อมูลของคุณ

เพื่อลดต้นทุนในการใช้งาน Gen AI คุณสามารถกำจัดเครื่องมือ SaaS ตัวกลาง โดยผสานแอปของคุณโดยตรงกับโซลูชัน Gen AI เชิงพาณิชย์ในระดับ API ตัวอย่างเช่น หากคุณต้องการเพิ่มพลังแชทบอตสนับสนุนลูกค้าของคุณด้วยความสามารถ Gen AI คุณสามารถซิงค์มันกับหนึ่งในโมเดลของ OpenAI เช่น GPT-3.5 หรือ GPT-4 โดยใช้ OpenAI API ถัดไป คุณต้องเตรียมข้อมูลสำหรับการเรียนรู้ของเครื่อง อัปโหลดข้อมูลไปยัง OpenAI และจัดการกระบวนการปรับแต่งอย่างละเอียดโดยใช้เครื่องมือ OpenAI CLI และ Open AI Python Library ในขณะที่ปรับแต่งโมเดลอย่างละเอียด คุณจะถูกเรียกเก็บเงิน 0,008 ดอลลาร์ต่อ 1,000 โทเค็น (GPT-3.5) เมื่อโมเดลของคุณเข้าสู่การใช้งานจริง อัตราอินพุตและเอาต์พุตจะมีมูลค่า 0,003 ดอลลาร์ต่อ 1,000 โทเค็น และ 0,006 ดอลลาร์ต่อโทเค็น 1,000 ตามลำดับ ค่าใช้จ่ายโดยรวมของ gen AI จะรวมค่าใช้จ่ายในการจัดเก็บข้อมูลด้วย หากคุณเลือกที่จะโฮสต์ข้อมูลของคุณบนเซิร์ฟเวอร์ OpenAI ค่าใช้จ่ายในการจัดเก็บข้อมูลอาจเพิ่ม 0.2 USD ต่อข้อมูล 1GB ต่อวันในการประมาณการขั้นสุดท้าย และอย่าลืมการเตรียมข้อมูลและความพยายามในการปรับแต่งโมเดลอย่างละเอียด คุณจะต้องร่วมมือกับบริษัทผู้ให้บริการพัฒนา AI ที่เชื่อถือได้ เว้นแต่แผนกไอทีของคุณมีทักษะที่จำเป็น

ค่าใช้จ่ายในการใช้โมเดล Gen AI แบบโอเพ่นซอร์ส “ตามสภาพ”

ข้อจำกัดความรับผิดชอบ: เราไม่ได้แนะนำให้คุณสร้างโมเดลพื้นฐานแบบกำหนดเองที่คล้ายกับ ChatGPT ตั้งแต่ต้น ซึ่งเป็นการลงทุนที่ดีที่สุดสำหรับผู้ที่มีการสนับสนุนจำนวนมาก เช่น การสนับสนุนจาก OpenAI จาก Microsoft เพื่อชดเชยการขาดทุน 540 ล้านดอลลาร์

แม้แต่โมเดลพื้นฐานอื่นๆ เช่น GPT-3 ก็สามารถเพิ่มค่าใช้จ่ายในการฝึกอบรมเบื้องต้นและการปรับใช้ได้มากกว่า 4 ล้านเหรียญสหรัฐ นอกจากนี้ ความซับซ้อนของแบบจำลองฐานรากเหล่านี้ได้เพิ่มสูงขึ้นอย่างรวดเร็วอย่างน่าประหลาดใจในช่วงไม่กี่ปีที่ผ่านมา

ITRex: กำหนดเอง

จำนวนทรัพยากรการประมวลผลที่จำเป็นสำหรับการฝึกอบรมโมเดล AI ขนาดใหญ่เพิ่มขึ้นสองเท่าทุกๆ 3.5 เดือน ความซับซ้อนของแบบจำลองพื้นฐานก็เปลี่ยนแปลงเช่นกัน ตัวอย่างเช่น ในปี 2016 Bert-Large ได้รับการฝึกอบรมโดยใช้พารามิเตอร์ 340 ล้านพารามิเตอร์ เมื่อเปรียบเทียบกันแล้ว โมเดล GPT-3 ของ OpenAI ได้รับการฝึกฝนด้วยพารามิเตอร์ประมาณ 175 พันล้านพารามิเตอร์

ข่าวดีก็คือ มีโมเดลพื้นฐานอยู่แล้ว ซึ่งทำให้ธุรกิจสามารถเริ่มทดลองใช้โมเดลเหล่านี้พร้อมทั้งปรับต้นทุนการใช้งาน Gen AI ให้เกิดประโยชน์สูงสุดได้ โดยพื้นฐานแล้ว เราสามารถถือว่าโมเดลพื้นฐานเป็นชุดเครื่องมือสำหรับวิศวกรซอฟต์แวร์ AI ได้ เนื่องจากโมเดลเหล่านี้เป็นจุดเริ่มต้นสำหรับการแก้ปัญหาที่ซับซ้อนในขณะที่ยังคงมีพื้นที่สำหรับการปรับแต่ง

ITRex: กำหนดเอง

เราสามารถแบ่งแบบจำลองพื้นฐานที่มีอยู่ออกเป็นสามประเภทอย่างคร่าวๆ

• โมเดลภาษาได้รับการออกแบบมาเพื่อจัดการการแปลข้อความ การสร้าง และการตอบคำถาม
• โมเดลคอมพิวเตอร์วิทัศน์มีความเป็นเลิศในด้านการจัดหมวดหมู่ภาพ การตรวจจับวัตถุ และการจดจำใบหน้า
• หมวดหมู่ที่สาม โมเดล AI ทั่วไป สร้างเนื้อหาที่คล้ายกับข้อมูลที่โมเดลใช้ เนื้อหานี้อาจรวมถึงรูปภาพใหม่ การจำลอง หรือข้อมูลที่เป็นข้อความในบางกรณี

เมื่อคุณเลือกโมเดลโอเพ่นซอร์สที่ตรงกับความต้องการของคุณมากที่สุดแล้ว คุณสามารถรวมเข้ากับซอฟต์แวร์ของคุณโดยใช้ API และใช้โครงสร้างพื้นฐานเซิร์ฟเวอร์ของคุณเองได้

แนวทางนี้เกี่ยวข้องกับต้นทุน AI ที่สร้างดังต่อไปนี้

1. ต้นทุนด้านฮาร์ดแวร์: การรันโมเดล AI โดยเฉพาะโมเดลขนาดใหญ่ ต้องใช้ทรัพยากรในการคำนวณจำนวนมาก หากบริษัทของคุณขาดฮาร์ดแวร์ที่เหมาะสม คุณอาจต้องลงทุนใน GPU หรือ CPU ที่ทรงพลังซึ่งอาจมีราคาแพง หากรุ่นของคุณมีขนาดค่อนข้างเล็ก GPU ระดับไฮเอนด์ เช่น NVIDIA RTX 3080 หรือที่คล้ายกันก็เพียงพอแล้ว ราคาของ GPU ดังกล่าวอาจมีตั้งแต่ 700 ถึง 1,500 เหรียญสหรัฐ สำหรับรุ่นขนาดใหญ่ เช่น GPT-2 หรือที่คล้ายกัน คุณต้องมี GPU ระดับไฮเอนด์หลายตัว หรือแม้แต่ตัวเร่งความเร็ว AI เฉพาะทาง ตัวอย่างเช่น NVIDIA A100 GPU ตัวเดียวอาจมีราคาระหว่าง 10,000 ถึง 20,000 เหรียญสหรัฐ การตั้งค่าที่มี GPU หลายตัวอาจมีราคาอยู่ระหว่าง 30,000 ถึง 50,000 เหรียญสหรัฐ
2. ต้นทุนการประมวลผลแบบคลาวด์: เป็นทางเลือกแทนการซื้อฮาร์ดแวร์ คุณสามารถเช่าทรัพยากรการประมวลผลแบบคลาวด์จากผู้ให้บริการ เช่น Amazon Web Services (AWS), Google Cloud Platform (GCP) หรือ Microsoft Azure บริการเหล่านี้จะคิดค่าบริการตามการใช้งาน ดังนั้นค่าใช้จ่ายจะขึ้นอยู่กับว่าคุณใช้ทรัพยากรมากน้อยเพียงใดในแง่ของเวลาในการประมวลผลและพื้นที่จัดเก็บ ตัวอย่างเช่น อินสแตนซ์ GPU บน AWS (เช่น P3 หรือ P4) อาจมีราคาตั้งแต่ 3 ถึง 24 ดอลลาร์ต่อชั่วโมง ขึ้นอยู่กับประเภทอินสแตนซ์
3. ไฟฟ้าและการบำรุงรักษา: หากคุณใช้ฮาร์ดแวร์ของคุณเอง คุณจะต้องเสียค่าไฟฟ้าสำหรับการใช้งานเครื่องจักรและอาจมีระบบระบายความร้อนเพิ่มเติม ค่าบำรุงรักษาฮาร์ดแวร์ก็สามารถเพิ่มขึ้นได้เช่นกัน
4. การบูรณาการและการปรับใช้: การรวมโมเดล AI เข้ากับระบบที่มีอยู่ของคุณและการปรับใช้ (โดยเฉพาะในสภาพแวดล้อมการผลิต) อาจต้องใช้ความพยายามในการพัฒนาซอฟต์แวร์เพิ่มเติม ซึ่งอาจส่งผลให้ต้องเสียค่าแรง ค่าใช้จ่ายในการจ้างการพัฒนา AI จากภายนอกให้กับบริษัทพัฒนาซอฟต์แวร์อาจมีตั้งแต่ 50 ถึง 200 เหรียญต่อชั่วโมง โดยมีค่าใช้จ่ายทั้งหมดตั้งแต่ไม่กี่พันถึงหลายหมื่นเหรียญสหรัฐ
5. การจัดเก็บและการจัดการข้อมูล: การจัดเก็บและการจัดการข้อมูลที่ใช้โดยโมเดลอาจมีค่าใช้จ่ายสูง โดยเฉพาะอย่างยิ่งเมื่อต้องจัดการกับชุดข้อมูลขนาดใหญ่หรือใช้โซลูชันการจัดเก็บข้อมูลบนคลาวด์ สำหรับการติดตั้งนอกสถานที่ ค่าใช้จ่ายในการจัดเก็บข้อมูล AI เชิงสร้างอาจอยู่ในช่วงตั้งแต่ 1,000 ถึง 10,000 เหรียญสหรัฐ ขึ้นอยู่กับขนาดของชุดข้อมูลการฝึกอบรมและความต้องการด้านความซ้ำซ้อน ค่าบริการสำหรับโซลูชันการจัดเก็บข้อมูลบนคลาวด์ เช่น AWS S3 อาจแตกต่างกันไปตั้งแต่ 0.021 ถึง 0.023 USD ต่อ GB ต่อเดือน โดยมีค่าใช้จ่ายเพิ่มเติมสำหรับการดำเนินการและการถ่ายโอนข้อมูล

ท้ายที่สุดแล้ว บริษัทของคุณจะต้องเสียค่าใช้จ่ายเท่าใดในการปรับใช้โมเดลพื้นฐาน AI แบบสร้างสรรค์ "ตามที่เป็น" การปรับใช้งานบนโครงสร้างพื้นฐานของคุณเอง สำหรับองค์กรขนาดกลางที่มุ่งเป้าที่จะใช้โมเดลขนาดใหญ่ปานกลาง เช่น GPT-2 ภายในองค์กร ที่เกี่ยวข้อง ต้นทุน AI กำเนิดอาจครอบคลุมดังต่อไปนี้

• ฮาร์ดแวร์: 20,000–50,000 เหรียญสหรัฐ (สำหรับ GPU ระดับไฮเอนด์สองสามตัวหรือการตั้งค่า multi-GPU พื้นฐาน)
• ค่าไฟฟ้าและค่าบำรุงรักษา: ประมาณ 2,000–5,000 เหรียญสหรัฐฯ ต่อปี
• การบูรณาการและการปรับใช้: 10,000–30,000 ดอลลาร์สหรัฐฯ (สมมติว่ามีความซับซ้อนในการบูรณาการปานกลาง)
• การจัดเก็บและการจัดการข้อมูล: 5,000–15,000 ดอลลาร์สหรัฐฯ (ขึ้นอยู่กับขนาดข้อมูล)

ต้นทุนรวมในการตั้งค่าและดำเนินการโซลูชัน generative AI จะรวมค่าใช้จ่ายต่อไปนี้

• ค่าใช้จ่ายในการปรับใช้เบื้องต้น: ประมาณ 37,000 ถึง 100,000 เหรียญสหรัฐ (ฮาร์ดแวร์ + การตั้งค่าการรวมและจัดเก็บข้อมูลเบื้องต้น)
• ค่าใช้จ่ายที่เกิดขึ้นประจำ: 7,000 ถึง 20,000 เหรียญสหรัฐ (รวมค่าไฟฟ้า การบำรุงรักษา การบูรณาการอย่างต่อเนื่อง และการจัดการข้อมูล)

การประมาณการสนามเบสบอลเหล่านี้อาจแตกต่างกันอย่างมากตามความต้องการเฉพาะ สถานที่ และสภาวะตลาด วิธีที่ดีที่สุดคือปรึกษากับผู้เชี่ยวชาญเพื่อประมาณการที่แม่นยำและเป็นส่วนตัวมากขึ้น นอกจากนี้ เป็นความคิดที่ดีที่จะตรวจสอบอัตราตลาดปัจจุบันสำหรับฮาร์ดแวร์และบริการคลาวด์เพื่อดูราคาล่าสุด

ค่าใช้จ่ายในการฝึกอบรมโซลูชัน Gen AI แบบโอเพ่นซอร์สใหม่โดยใช้ข้อมูลของคุณ

หากบริษัทของคุณกำลังคิดที่จะปรับเปลี่ยนโมเดลพื้นฐานแบบโอเพ่นซอร์ส สิ่งสำคัญคือต้องพิจารณาปัจจัยที่อาจส่งผลต่อต้นทุนในการใช้ Generative AI

ปัจจัยดังกล่าวครอบคลุมดังต่อไปนี้

1. ขนาดโมเดล: โมเดลขนาดใหญ่ เช่น GPT-3 ต้องใช้ทรัพยากรมากขึ้นเพื่อปรับแต่งและปรับใช้ เป็นผลให้ต้นทุนของ generative AI เพิ่มขึ้นตามขนาดและความซับซ้อนของแบบจำลอง โมเดลพื้นฐานโอเพ่นซอร์สที่เรียบง่ายกว่า เช่น GPT-2, XLNet และ StyleGAN2 ไม่สามารถสร้างเนื้อหาที่มีความเชื่อมโยงและความเกี่ยวข้องในระดับเดียวกันได้
2. ทรัพยากรการคำนวณ: การฝึกอบรมโมเดลพื้นฐานขึ้นใหม่โดยใช้ข้อมูลของบริษัทของคุณต้องการพลังการประมวลผลจำนวนมาก ค่าใช้จ่ายของโซลูชัน Gen AI ขึ้นอยู่กับว่าคุณใช้ฮาร์ดแวร์หรือบริการคลาวด์ของคุณเอง โดยราคาหลังจะแตกต่างกันไปขึ้นอยู่กับผู้ให้บริการคลาวด์และขนาดการดำเนินงานของคุณ หากคุณเลือกใช้โมเดลที่เรียบง่ายกว่าและปรับใช้ในองค์กร คุณจะต้องจ่าย 10,000–30,000 ดอลลาร์สหรัฐฯ เป็นค่าใช้จ่าย GPU เพื่อปรับแต่งโซลูชัน generative AI เมื่อใช้การประมวลผลแบบคลาวด์ ค่าใช้จ่ายอาจอยู่ระหว่าง 1 ถึง 10 เหรียญต่อชั่วโมง ขึ้นอยู่กับประเภทของอินสแตนซ์ โมเดลโอเพ่นซอร์สที่คล้ายกับ GPT-3 จำเป็นต้องมีการตั้งค่า GPU ขั้นสูงมากกว่า ซึ่งมีมูลค่าตั้งแต่ 50,000–100,000 ดอลลาร์สหรัฐฯ ค่าใช้จ่ายการประมวลผลบนคลาวด์ที่เกี่ยวข้องอาจมีตั้งแต่ 10 ถึง 24 เหรียญต่อชั่วโมงสำหรับอินสแตนซ์ GPU ระดับไฮเอนด์
3. การเตรียมข้อมูล: กระบวนการรวบรวม ทำความสะอาด และเตรียมข้อมูลของคุณสำหรับการปรับแต่งแบบจำลองพื้นฐานอาจต้องใช้ทรัพยากรมาก ดังนั้น ค่าใช้จ่ายในการใช้งาน Generative AI จะรวมค่าใช้จ่ายที่เกี่ยวข้องกับการจัดเก็บข้อมูล การประมวลผล และอาจรวมถึงการซื้อชุดข้อมูลการฝึกอบรม หากบริษัทของคุณขาดข้อมูลของคุณเองหรือไม่สามารถใช้ข้อมูลดังกล่าวได้ด้วยเหตุผลด้านความปลอดภัยและความเป็นส่วนตัว
4. เวลาและความเชี่ยวชาญในการพัฒนา: ความสามารถด้าน AI ไม่ได้มีราคาถูก วิศวกร AI ภายในสหรัฐอเมริกาจะมีค่าใช้จ่ายบริษัทของคุณ 70,000–200,000 ดอลลาร์สหรัฐฯ ต่อปี บวกกับการจ้างงาน เงินเดือน ประกันสังคม และค่าใช้จ่ายในการบริหารอื่นๆ คุณสามารถลดต้นทุนเชิงสร้างสรรค์ของ AI ได้โดยการร่วมมือกับบริษัทวิศวกรรมซอฟต์แวร์นอกอาณาเขตที่มีความเชี่ยวชาญด้านการพัฒนา AI อัตรารายชั่วโมงของบริษัทดังกล่าวอาจมีตั้งแต่ 62 ถึง 95 เหรียญสหรัฐฯ สำหรับผู้มีความสามารถด้านการพัฒนาอาวุโสในสถานที่ตั้งเอาท์ซอร์สที่สำคัญ เช่น ยุโรปกลางและละตินอเมริกา
5. ค่าบำรุงรักษา: คุณจะต้องรับผิดชอบแต่เพียงผู้เดียวในการบำรุงรักษา อัปเดต และแก้ไขปัญหาโมเดล ซึ่งต้องใช้ความพยายามอย่างต่อเนื่องและความเชี่ยวชาญด้านวิศวกรรมการเรียนรู้ของเครื่องและการดำเนินงาน (MLOps)

เมื่อพิจารณาปัจจัยที่กล่าวมาข้างต้น อะไรคือต้นทุนที่แท้จริงในการสร้างโซลูชัน generative AI ที่ปรับแต่งตามแบบจำลองพื้นฐานที่พร้อมใช้งาน? สำหรับองค์กรขนาดกลางที่ต้องการปรับแต่งโมเดลขนาดใหญ่ปานกลาง เช่น GPT-2 ค่าใช้จ่ายในการใช้งาน Generative AI ที่เกี่ยวข้องอาจครอบคลุมดังต่อไปนี้

• ฮาร์ดแวร์: 20,000 – 30,000 เหรียญสหรัฐ (สำหรับการตั้งค่า GPU ระดับปานกลาง)
• การพัฒนา: สมมติว่าใช้เวลาในการพัฒนา 6 เดือนโดยผสมผสานความสามารถทั้งจากภายในและจากภายนอก:

ในบ้าน: $35,000–$100,000 (เงินเดือนครึ่งปี)

การจ้างบุคคลภายนอก: $20,000–$40,000 (สมมติว่า 400 ชั่วโมงที่อัตราเฉลี่ย $75/ชม.)

• การเตรียมข้อมูล: 5,000–20,000 เหรียญสหรัฐ (ขึ้นอยู่กับขนาดและความซับซ้อนของข้อมูล)
• ค่าบำรุงรักษา: $5,000–$15,000 ต่อปี (ค่าใช้จ่ายต่อเนื่อง)

ต้นทุนรวมในการตั้งค่าและดำเนินการโซลูชัน generative AI จะรวมค่าใช้จ่ายต่อไปนี้

• ค่าใช้จ่ายในการปรับใช้เบื้องต้น: ประมาณ 80,000 ถึง 190,000 ดอลลาร์สหรัฐฯ (รวมค่าฮาร์ดแวร์ การพัฒนา และการเตรียมข้อมูล)
• ค่าใช้จ่ายที่เกิดขึ้นประจำ: 5,000 ถึง 15,000 เหรียญสหรัฐ (ค่าบำรุงรักษาและค่าใช้จ่ายต่อเนื่อง)

ต้นทุนการพัฒนาและการนำไปใช้จริงของ Gen AI อาจแตกต่างกันไปขึ้นอยู่กับข้อกำหนดเฉพาะของโครงการ ความพร้อมใช้งานของข้อมูลการฝึกอบรมและผู้มีความสามารถด้าน AI ภายในองค์กร และสถานที่ตั้งของพันธมิตรเอาท์ซอร์สของคุณ เพื่อให้ได้ราคาที่ถูกต้องและเป็นปัจจุบันที่สุดขอแนะนำให้ปรึกษาผู้เชี่ยวชาญหรือผู้ให้บริการโดยตรง

แม้ว่า 190,000 ดอลลาร์สหรัฐฯ สำหรับระบบ Gen AI อาจดูแพงเกินสมควร แต่ค่าใช้จ่ายในการสร้างโซลูชัน Gen AI โดยใช้โมเดลพื้นฐานแบบโอเพ่นซอร์สอาจต่ำกว่าการเลือกใช้เครื่องมือที่มีจำหน่ายในท้องตลาด

ก่อนที่ ChatGPT จะได้รับความสนใจ Latitude ซึ่งเป็นสตาร์ทอัพบุกเบิกที่รับผิดชอบเกมผจญภัยที่ใช้ AI ชื่อ AI Dungeon ได้ใช้โมเดล GPT ของ OpenAI ในการสร้างข้อความ

เมื่อฐานผู้ใช้เติบโตขึ้น ค่าใช้จ่ายของ OpenAI และโครงสร้างพื้นฐานของ Amazon ก็เพิ่มขึ้นเช่นกัน เมื่อถึงจุดหนึ่ง บริษัทต้องจ่ายเงิน 200,000 ดอลลาร์ต่อเดือนเป็นค่าใช้จ่ายที่เกี่ยวข้องเพื่อจัดการกับข้อความค้นหาของผู้ใช้ที่เพิ่มขึ้น

หลังจากเปลี่ยนมาใช้ผู้ให้บริการ AI เจเนอเรทีฟรายใหม่ บริษัทก็ได้ลดต้นทุนการดำเนินงานลงเหลือ 100,000 ดอลลาร์ต่อเดือน และปรับกลยุทธ์การสร้างรายได้ โดยแนะนำการสมัครสมาชิกรายเดือนสำหรับฟีเจอร์ที่ขับเคลื่อนด้วย AI ขั้นสูง

ในการเลือกแนวทางการใช้งานที่เหมาะสมพร้อมทั้งปรับราคา generative AI ให้เหมาะสม การวิเคราะห์ความต้องการของโครงการของคุณอย่างละเอียดล่วงหน้าจึงเป็นสิ่งสำคัญ และนั่นคือเหตุผลที่เราสนับสนุนลูกค้าของเราให้ริเริ่มโครงการพัฒนา AI ด้วยขั้นตอนการค้นพบอยู่เสมอ

สิ่งที่ต้องพิจารณาเมื่อใช้ Gen AI ในธุรกิจ

เมื่อคุณทราบสิ่งที่คาดหวังจาก Generative AI ที่คำนึงถึงต้นทุนแล้ว ก็ถึงเวลาพูดคุยเกี่ยวกับข้อผิดพลาดและข้อควรพิจารณาในการนำเทคโนโลยีไปใช้งาน

• โมเดลพื้นฐาน โดยเฉพาะโมเดลภาษาขนาดใหญ่ อาจทำให้เกิดภาพหลอน ทำให้เกิดคำตอบที่ดูเหมือนถูกต้องตามกฎหมายแต่กลับผิดอย่างสิ้นเชิงต่อคำถามของผู้ใช้ บริษัทของคุณสามารถหลีกเลี่ยงสถานการณ์นี้ได้โดยการปรับปรุงข้อมูลการฝึกอบรม ทดลองใช้สถาปัตยกรรมโมเดลต่างๆ และแนะนำลูปคำติชมของผู้ใช้ที่มีประสิทธิภาพ
• โซลูชัน Gen AI ได้รับการฝึกฝนโดยใช้ข้อมูลจำนวนมหาศาลที่ล้าสมัยอย่างรวดเร็ว ด้วยเหตุนี้ คุณจะต้องฝึกโมเดลของคุณใหม่เป็นประจำ ซึ่งจะเพิ่มต้นทุนในการใช้งาน generative AI
• โมเดลพื้นฐานที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลเฉพาะ เช่น รายการบันทึกสุขภาพอิเล็กทรอนิกส์ (EHR) อาจประสบปัญหาในการผลิตเนื้อหาที่ถูกต้องนอกเหนือจากความเชี่ยวชาญเฉพาะด้าน ในทางกลับกัน โมเดลที่ใช้งานทั่วไปมักประสบปัญหากับข้อความค้นหาของผู้ใช้เฉพาะโดเมน วิธีแก้ไขปัญหานี้ได้แก่ การสร้างโมเดลแบบไฮบริด การใช้เทคนิคการถ่ายโอนการเรียนรู้ และการปรับแต่งโมเดลอย่างละเอียดผ่านคำติชมของผู้ใช้
• โซลูชัน Gen AI มีลักษณะเป็นกล่องดำโดยธรรมชาติ ซึ่งหมายความว่าไม่ค่อยมีความชัดเจนว่าเหตุใดจึงสร้างผลลัพธ์ที่แน่นอน และวิธีการประเมินความแม่นยำ การขาดความเข้าใจอาจทำให้นักพัฒนาไม่สามารถปรับแต่งโมเดลได้ ด้วยการปฏิบัติตามหลักการ AI ที่อธิบายได้ในระหว่างการฝึกอบรมโมเดล Gen AI เช่น การแนะนำเทคนิคการตีความโมเดล กลไกความสนใจ และเส้นทางการตรวจสอบ คุณจะได้รับข้อมูลเชิงลึกเกี่ยวกับกระบวนการตัดสินใจของโมเดลและเพิ่มประสิทธิภาพการทำงานของโมเดล

นอกจากนี้ ยังมีคำถามหลายข้อที่บริษัทของคุณจำเป็นต้องตอบก่อนเริ่มต้นใช้งาน AI แบบสร้างสรรค์

• มีกลยุทธ์การซื้อเทียบกับการสร้างที่มั่นคงเพื่อตรวจสอบว่าบริษัทของคุณใช้เฉพาะ Gen AI ในฟังก์ชันที่เทคโนโลยีจะกลายเป็นตัวสร้างความแตกต่างพร้อมทั้งป้องกันการล็อคอินของผู้ขายหรือไม่ กลยุทธ์นี้ควรได้รับการเสริมด้วยแผนงานโดยละเอียดสำหรับการจัดการการเปลี่ยนแปลงและการปรับขนาด gen AI และข้อกำหนดสำหรับการออกแบบกระบวนการทางธุรกิจทั้งหมดใหม่ หากจำเป็น
• แผนกไอทีภายในของคุณมีทักษะ MLOps เพียงพอที่จะทดสอบ ปรับแต่ง และรักษาคุณภาพของโมเดล ML ที่ซับซ้อนและข้อมูลการฝึกอบรมหรือไม่ ถ้าไม่ คุณได้เลือกบริษัทพัฒนา AI ที่เชื่อถือได้เพื่อดูแลงานเหล่านี้แล้วหรือยัง?
• คุณมีทรัพยากรการประมวลผลจำนวนมาก ทั้งในระบบคลาวด์และบน Edge หรือไม่? นอกจากนี้ การประเมินความสามารถในการปรับขนาดของโครงสร้างพื้นฐานด้าน IT ของคุณเป็นสิ่งสำคัญ รวมถึงความเป็นไปได้ของการนำโมเดล Gen AI มาใช้ซ้ำในงาน กระบวนการ และหน่วยต่างๆ
• บริษัทของคุณหรือพันธมิตรด้านการพัฒนา AI ของคุณมีทักษะในการทดสอบความเป็นไปได้ของ Gen AI ผ่านการพิสูจน์แนวคิด (PoC) และขยายขอบเขตการทดลองของคุณนอกสภาพแวดล้อม Sandbox ที่มีการควบคุมหรือไม่
• สุดท้ายแต่ไม่ท้ายสุด องค์กรของคุณมีกลไกความเป็นส่วนตัวและความปลอดภัยที่มีประสิทธิภาพในการปกป้องข้อมูลที่ละเอียดอ่อนและรับประกันการปฏิบัติตามกฎระเบียบเฉพาะอุตสาหกรรมและภูมิภาคหรือไม่

การมีแผนการใช้งานที่คิดมาอย่างดีจะไม่เพียงแต่ช่วยให้คุณนำเทคโนโลยีมาใช้ในวิธีที่ปราศจากความเสี่ยงและเก็บเกี่ยวผลประโยชน์ได้เร็วขึ้น แต่ยังช่วยลดต้นทุนของ Gen AI อีกด้วย

ใช้ประโยชน์จากบริการให้คำปรึกษาของ ITRex gen AI เพื่อดูว่า Gen AI จะช่วยคุณปรับปรุงกระบวนการทางธุรกิจ เลือกแนวทางการใช้งาน Gen AI ที่เหมาะสม และปรับต้นทุน Gen AI ให้เหมาะสมหรือไม่ เขียนถึงเราเพื่อให้ลูกบอลกลิ้ง!

บทความนี้ถูกเผยแพร่ครั้งแรกบนเว็บไซต์ ITRex