کتاب Large Language Models: The Hard Parts

مدیران محصول و رهبران فنی

شما به عنوان تصمیم‌گیرندگان نهایی، باید بدانید که چه زمانی، چگونه و آیا اصلاً باید از مدل‌های زبانی استفاده کنید یا خیر. از آنجا که شما مسئول نتایج هستید، درک ریسک‌ها و محدودیت‌های این فناوری برای شما حیاتی است.

پژوهشگران و متخصصان حوزه‌های تخصصی

متخصصان در زمینه‌هایی مانند مالی، مراقبت‌های بهداشتی، حقوق یا آموزش که پتانسیل این مدل‌ها را در حوزه خود می‌بینند اما باید بدانند چگونه خروجی‌های آن‌ها را اعتبارسنجی کنند. شما تخصص عمیقی در حوزه خود دارید و ممکن است نسبت به هیاهوی هوش مصنوعی بدبین باشید. این کتاب به شما نشان می‌دهد که چگونه به طور دقیق ارزیابی کنید که آیا یک مدل زبانی با استانداردهای تخصصی شما هم‌خوانی دارد یا خیر.

تحلیلگران و متخصصان هوش تجاری

افرادی که به دنبال بررسی نحوه استفاده از این مدل‌ها برای بهبود تحلیل داده‌ها، تولید گزارش‌ها یا کشف بینش‌های جدید هستند. شما با داده‌ها آشنایی دارید، اما مدل‌های زبانی پارادایم کاملاً جدیدی را معرفی می‌کنند که نیازمند رویکردی متفاوت است.

کاوشگران سازمانی هوش مصنوعی

هر کسی که وظیفه دارد نحوه استفاده سازمان از هوش مصنوعی را کشف کند. خواه در بخش عملیات، منابع انسانی، بازاریابی، حقوقی یا سایر بخش‌ها باشید، سازمان‌ها از افراد بدون پیش‌زمینه یادگیری ماشین می‌خواهند تا کاربردهای این مدل‌ها را بررسی کنند. این کتاب شما را به یک متخصص سازنده تبدیل نمی‌کند، اما سواد لازم برای ارزیابی ارائه‌دهندگان، سنجش ریسک‌ها، تشخیص واقعیت از هیاهو و گفتگوی آگاهانه با تیم‌های فنی را به شما می‌بخشد.

مروری جامع بر فصل‌های کتاب

سخت‌ترین بخش در تدوین این اثر، تصمیم‌گیری درباره مواردی بود که باید در این دنیای در حال گسترش از آن‌ها چشم‌پوشی کرد. آنچه در نهایت انتخاب شد، مسیری منطقی برای درک عمیق این فناوری است.

فصل اول: اصول اولیه و پیش‌نیازهای ساخت

ما با پرداختن به سوالاتی پیرامون ارزش، داده‌ها، ذینفعان و استراتژی آغاز می‌کنیم که تعیین‌کننده موفقیت یا شکست یک برنامه کاربردی مبتنی بر مدل زبانی هستند. این فصل ثابت می‌کند که برتری فنی بدون شفافیت استراتژیک درباره چرایی و چیستی آنچه می‌سازیم، بی‌فایده است.

فصل دوم: شکاف ارزیابی

در این بخش، به چالش اندازه‌گیری کیفیت در سیستم‌های غیرقطعی می‌پردازیم. ما کار را با معیارهای سنتی که شباهت متنی را اندازه می‌گیرند آغاز کرده و کاربردها و محدودیت‌های آن‌ها را بررسی می‌کنیم. سپس رویکرد استفاده از یک مدل زبانی به عنوان داور را برای ارزیابی خروجی‌های مدلی دیگر مورد کاوش قرار می‌دهیم.

فصل سوم: ابزارهای ارزیابی برای برنامه‌های کاربردی

ما از مفاهیم نظری ارزیابی به ابزارهای عملی حرکت می‌کنیم و سه ابزار کلیدی را بررسی می‌کنیم که به ما کمک می‌کنند برنامه‌های کاربردی خود را به صورت سیستماتیک آزمایش کرده و بهبود ببخشیم. این ابزارها شامل راهکارهایی برای ارزیابی انتها به انتها، پیگیری آزمایش‌ها، مقایسه سریع دستورات، آزمایش‌های خصمانه و ارزیابی‌های سبک و اقتصادی است.

فصل چهارم: از داده‌ها تا زمینه اطلاعاتی

در ادامه بررسی می‌کنیم که وقتی داده‌های بدون ساختار به زمینه‌ای برای مدل‌های زبانی تبدیل می‌شوند، چه اتفاقی می‌افتد. به عبارت دیگر، چگونه می‌توان به این مدل‌ها دسترسی به اطلاعاتی فراتر از داده‌های آموزشی‌شان داد. ما مکانیک استراتژی‌های قطعه‌بندی، جاسازی‌های برداری، تولید افزوده شده با بازیابی و مدل‌های دارای پنجره زمینه طولانی را یاد می‌گیریم. آیا رویکرد بازیابی اطلاعات زنده می‌ماند یا در آینده همه چیز به سمت مدل‌های دارای زمینه طولانی حرکت خواهد کرد؟

فصل پنجم: خروجی داده‌های ساختاریافته

ما چالش دریافت خروجی‌های قابل اعتماد و ساختاریافته از مدل‌های زبانی را بررسی می‌کنیم. در این بخش از محدودیت‌های حالت‌های داده‌ای خاص، طرح‌واره‌ها برای اعمال ساختارهای دقیق با اعتبارسنجی نوع داده و پردازش‌های پسینی برای اثبات تضمین‌های ریاضی از طریق دستکاری احتمالات نشانه‌ها استفاده می‌کنیم.

فصل ششم: ملاحظات ایمنی مدل‌های زبانی

در این فصل که بدون کدنویسی است، پیش از پیاده‌سازی هرگونه راهکار فنی، یک پایه مفهومی برای ایمنی مدل‌ها ایجاد می‌کنیم. ما اصول کلی ایمنی هوش مصنوعی را بررسی کرده، آسیب‌پذیری‌های خاص این مدل‌ها مانند دور زدن محدودیت‌ها را تجزیه و تحلیل می‌کنیم و نحوه رویکرد شرکت‌های بزرگ به ایمنی را از طریق چارچوب‌های مختلف مطالعه می‌کنیم. ما یاد می‌گیریم که تیم‌سازی قرمز در عمل چه معنایی دارد و چگونه سیستم‌های مبتنی بر قانون اساسی به طور سیستماتیک اصول ایمنی را نهادینه می‌کنند.

فصل هفتم: ارزیابی مدل‌ها از نظر ایمنی

ما مفاهیم ایمنی را به کد تبدیل می‌کنیم و با معیارهای ارزیابی که میزان ایمنی و صحت واقعی مدل‌های ما را اندازه می‌گیرند، شروع می‌کنیم. سپس محافظت در زمان اجرا را از طریق سیستم‌های محافظتی که محتوای مضر را در لحظه فیلتر می‌کنند، پیاده‌سازی می‌کنیم و از رابط‌های برنامه‌نویسی کاربردی برای طبقه‌بندی ایمنی بهره می‌بریم.

فصل هشتم: هم‌راستاسازی مدل‌ها: یک مطالعه موردی

ما بر روی یک مطالعه موردی تمرکز می‌کنیم تا بیاموزیم چگونه رفتار مدل را از طریق هم‌راستاسازی مبتنی بر ترجیحات تغییر دهیم. ما بر مکانیک بهینه‌سازی مستقیم ترجیحات مسلط می‌شویم و از ابزارهای عملی برای تنظیم دقیق یک مدل در راستای یک سیاست مشخص استفاده می‌کنیم. در نهایت، کار خود را با استفاده از روش داوری توسط مدل‌های زبانی ارزیابی می‌کنیم.

فصل نهم: موخره و عصر کاهش هزینه‌ها

ما این مسیر را با بررسی سقوط چشمگیر هزینه‌های استنتاج و پیامدهای آن برای تمام آنچه آموخته‌ایم به پایان می‌رسانیم. ما بررسی می‌کنیم که این تغییر برای متخصصان داده که کارشان از بهینه‌سازی برای هزینه به بهینه‌سازی برای کیفیت تغییر می‌کند، چه معنایی دارد. همچنین برای سازمان‌هایی که مزیت رقابتی آن‌ها از ارزیابی دقیق و ایمنی سرچشمه می‌گیرد و نه فقط دسترسی به مدل‌ها، بینش‌های ارزشمندی ارائه می‌دهیم.