
Efficient AI for local deployment
داستان نگارش این کتاب با یک دغدغه عمیق و یک الهامگیری جالب آغاز میشود. در اوایل سال هزار و چهارصد و یک، زمانی که نویسنده سرانجام فرصت یافت تا مقاله مشهور «توجه تمام چیزی است که نیاز دارید» را به طور کامل مطالعه کند، کنجکاوی عمیقی نسبت به معماری ترانسفورمر و کاربردهای بالقوه و شگفتانگیز آن در صنایع مختلف در ذهن او شکل گرفت. با توجه به سابقه فعالیت نویسنده در حوزه علوم زیستی، این فناوری جدید شبکههای عصبی میتوانست تحولی بنیادین ایجاد کند. اما در همان زمان، یک نگرانی جدی و ملموس وجود داشت: خطر واقعی این بود که چنین فناوری قدرتمندی به سرعت به انحصار سازمانهای بزرگ فناوری درآید؛ سازمانهایی که توانایی تامین منابع محاسباتی عظیم برای آموزش و اجرای این مدلهای سنگین را داشتند.
در همین نقطه بود که یک چالش محبوب در میان مهندسان نرمافزار الهامبخش نویسنده شد؛ چالش اجرای یک بازی کلاسیک دهه نودی روی هر دستگاه ممکن. این ایده جذاب باعث شد تا نویسنده به فکر یافتن راههایی برای بهینهسازی مدلهای مبتنی بر معماری ترانسفورمر بیفتد. هدف این بود که این مدلها روی دادهها و وظایف خاص یک دامنه آموزش داده شوند تا بتوان آنها را در محیطهایی با محدودیتهای سختافزاری شدید مستقر و اجرا کرد. برگزاری یک کارگاه آموزشی عملی در همین زمینه در یکی از کنفرانسهای معتبر اروپایی و استقبال بینظیر مهندسان یادگیری ماشین، جرقه اصلی نگارش این اثر را روشن کرد.
زمانی که پیشنهاد نگارش این کتاب از سوی ناشر مطرح شد، همزمان با یکی از بزرگترین تحولات تاریخ نرمافزار بود. تنها چند هفته پس از آغاز نگارش این اثر، سرویسهای هوش مصنوعی مکالمهمحور عمومی به بازار عرضه شدند و رقابت شدیدی میان غولهای فناوری برای ساخت مدلهای عمومیتر، بزرگتر و البته متنبسته شکل گرفت تا بازار مصرفکنندگان را تسخیر کنند.
اما جامعه متنباز در برابر این موج انحصارطلبی دست روی دست نگذاشت. مجموعهای گسترده از ابتکارات شامل معماریهای باز، اوزان در دسترس و تکنیکهای نوین برای بهینهسازی آموزش و اجرای مدلهای زبانی به سرعت پیشنهاد و توسعه داده شدند. این زمان، بهترین فرصت برای تدوین یک منبع متمرکز و جامع بود تا به متخصصان یادگیری ماشین نشان دهد چه قابلیتهای شگفتانگیزی فراتر از محصولات تجاری گرانقیمت وجود دارد؛ قابلیتهایی که برای وظایف خاص و به ویژه در صنایعی با مقررات سختگیرانه، حیاتی و نجاتبخش هستند. تهیه نسخه چاپی این کتاب، به مثابه در دست داشتن یک قطبنمای دقیق در این دریای متلاطم فناوری است.
تمرکز اصلی و بنیادین این اثر بر روی درک عمیق تکنیکهایی است که عملکرد استنتاج را بهبود بخشیده و هزینههای مربوط به مدلهای زبانی کوچک سفارشیسازی شده و از پیش آموزشدیده را کاهش میدهند. این هدف از طریق فرآیندهای پیچیدهای نظیر بهینهسازی ساختاری و کمیسازی مدلها محقق میشود.
در این کتاب ارزشمند، شما میآموزید که چگونه این مدلها را از طریق اکوسیستمهای متنوع رابط برنامهنویسی ارائه دهید، آنها را روی سختافزارهای مختلف از جمله لپتاپ شخصی خود مستقر کنید و از همه مهمتر، تمامی این مفاهیم پیچیده با زبانی ساده و به همراه نمونه کدهای کامل و کاربردی توضیح داده شدهاند تا خواننده بتواند توان محاسباتی مورد نیاز را به حداقل رسانده و در عین حال، کیفیت، زمان پاسخگویی و دقت خروجی را در بالاترین سطح ممکن حفظ کند.
کلمات کلیدی:شایان ذکر است که اگرچه در چند مثال محدود به نحوه پیشپردازش دادهها برای آموزش و همچنین معرفی تکنیکهای تنظیم ظریف کارآمد پارامتر پرداخته شده است، اما رسالت اصلی این کتاب آموزش صفر تا صد آمادهسازی داده و فرآیند آموزش اولیه نیست، بلکه تمرکز بر بهرهبرداری حداکثری از مدلهای موجود است.
این اثر در وهله اول برای مهندسان یادگیری ماشین و دانشمندان دادهای نوشته شده است که مشتاق یادگیری نحوه مدیریت و استقرار مدلهای زبانی در محیطهای سختافزاری محدودی هستند که بودجه سازمانشان اجازه میدهد. علاوه بر این، مطالعه نسخه چاپی این کتاب به رهبران فنی و مدیران ارشدی که به دنبال خلق ارزش تجاری مضاعف از طریق اعمال مدلهای زبانی سفارشی بر روی دادههای سازمانی خود هستند، به شدت توصیه میشود.
برای درک کامل و بهرهمندی حداکثری از محتوای غنی این اثر، خواننده نیازمند داشتن مجموعهای از مهارتهای پایه است. این موارد شامل درک عمومی از مفاهیم یادگیری عمیق، شناخت معماری ترانسفورمر و مکانیزمهای درونی آن به همراه آشنایی با اصول اولیه فرآیند آموزش آنها میباشد. همچنین داشتن مهارتهای متوسط در زبان برنامهنویسی پایتون، تجربه عملی کار با چارچوبهای یادگیری عمیق به ویژه پایتورچ، آشنایی با محیطهای ابری نظیر کولب، تجربه متوسط در مهندسی نرمافزار و در نهایت داشتن سه الی چهار سال تجربه کاری به عنوان مهندس یادگیری ماشین یا دانشمند داده، مسیر یادگیری را بسیار هموارتر خواهد کرد.
این کتاب با دقتی مثالزدنی در چهار بخش جامع و پانزده فصل تخصصی سازماندهی شده است که خواننده را در یک مسیر منطقی از مفاهیم پایه تا استقرارهای پیچیده سازمانی هدایت میکند.
این بخش پایههای نظری لازم برای درک تفاوتهای بنیادین میان مدلهای عظیم و مدلهای چابک را بنا میکند.
فصل اول: بررسی موارد استفاده
در این فصل آغازین، نویسنده به تشریح دقیق موارد استفاده از مدلهای زبانی کوچک و تخصصی میپردازد. شما با مزایا و معایب این مدلها در مقایسه با همتایان غولپیکر و عمومی آنها آشنا میشوید و درک میکنید که چرا در بسیاری از سناریوهای تجاری، کوچکتر بودن به معنای کارآمدتر بودن است.
بخش دوم وارد فاز عملیاتی شده و تکنیکهای تنظیم و بهینهسازی را کالبدشکافی میکند.
فصل دوم: آمادهسازی دادهها و تنظیم ظریف
این فصل نمونههای کاربردی از نحوه آمادهسازی دادهها برای تنظیم ظریف معماریهای ترانسفورمر و همچنین ساختارهای تولید افزوده بازیابی را ارائه میدهد. مهمتر از آن، مفهوم حیاتی تنظیم ظریف کارآمد پارامتر در اینجا معرفی و بسط داده میشود.
فصل سوم: از ایده تا عمل در وظایف خاص
یک مثال جامع و از ابتدا تا انتها در این فصل گنجانده شده است که نحوه تنظیم یک مدل زبانی کوچک را برای یک وظیفه کاملا مشخص نشان میدهد. این وظیفه شامل تولید کدهای پایتون برای رندر و متحرکسازی فرمولهای ریاضی بر اساس دستورات زبان طبیعی است. همچنین استراتژیهای ارزیابی اعتبار خروجی مدل به دقت بررسی شدهاند.
فصل چهارم: استراتژیهای تولید محتوا و کاهش هزینه
در این بخش، انواع مختلف تولید محتوا با استفاده از این مدلهای چابک تشریح میشود. شما میآموزید که چگونه نقاط قابل بهبود را در زمان استنتاج شناسایی کنید تا هم در هزینهها صرفهجویی کنید و هم عملکرد را ارتقا دهید. تکنیکهای کاهش مصرف توان پردازشی از مباحث کلیدی این فصل است.
فصل پنجم و ششم: تسلط بر فرمتهای تبادل و کمیسازی
این دو فصل به صورت تخصصی به فرمت تبادل شبکه عصبی باز و زمان اجرای آن اختصاص دارد. روشهای کمیسازی مدلهای زبانی کوچک بر روی پردازندههای مرکزی و گرافیکی، و استراتژیهای متنوع کاهش حجم اوزان شبکه با استفاده از استانداردهای باز و روشهای جایگزین، با جزئیات کامل فنی تدریس میشوند.
بخش سوم مفاهیم نظری فصول پیشین را در قالب سناریوهای واقعی و صنعتی به تصویر میکشد.
فصل هفتم: تولید کد و بهینهسازی سختافزاری
کاربردهای پیشرفته تولید کد برنامهنویسی توسط مدلهای زبانی فشرده و نحوه بهینهسازی دقیق آنها برای اجرا در محیطهایی که با کمبود شدید منابع سختافزاری مواجه هستند، در این فصل بررسی میشود.
فصل هشتم: هوش مصنوعی در خدمت علوم پایه
این فصل نشان میدهد که چگونه مدلهای زبانی کوچک از پیش آموزشدیده میتوانند برای حل مسائل پیچیده در حوزههای تخصصی نظیر شیمی، کشف داروهای جدید و علم مواد مورد استفاده قرار گیرند و ارزش علمی و تجاری بینظیری خلق کنند.
<h4>بخش چهارم: مفاهیم پیشرفته، ترکیب مدلها و هوش مصنوعی عاملمحور</h4>
بخش پایانی کتاب، مرزهای فناوری را درنوردیده و به سراغ معماریهای ترکیبی و پیشرفته میرود.
فصل نهم و دهم: پیشرفتهترین تکنیکهای بهینهسازی
فصل نهم به تکنیکهای بسیار پیشرفته کمیسازی اختصاص دارد که افت کیفیت را به نزدیک صفر میرسانند. در فصل دهم، مهندسان میآموزند که چگونه دادههای خام حاصل از پروفایلگیری شبکههای عصبی را به بینشهای ارزشمند برای بهبود حداکثری مدل تبدیل کنند.
فصل یازدهم و دوازدهم: استقرار و ارائه خدمات
این فصول یک راهنمای جامع برای استقرار مدلهای چابک در محیطهای بسیار متنوع، حتی دستگاههای اندرویدی است. همچنین گزینههای متعدد برای اجرای محلی این مدلها روی لپتاپهای شخصی همراه با رابطهای کاربری گرافیکی روان، آموزش داده میشود.
فصل سیزدهم و چهاردهم: معماریهای ترکیبی نوین
استفاده از مدلهای زبانی فشرده به عنوان هسته پردازشی در سیستمهای پیچیدهتر نظیر تولید افزوده بازیابی و هوش مصنوعی عاملمحور در فصل سیزدهم بررسی میشود. فصل چهاردهم این مفاهیم را بسط داده و ساختارهای نوینی مانند تولید افزوده بازیابی مبتنی بر گراف و سیستمهای بازیابی عاملمحور را معرفی میکند.
فصل پانزدهم: محاسبه زمان آزمایش و تفکر استنتاجی
کتاب با بررسی مفهوم محاسبه زمان آزمایش برای این مدلها به پایان میرسد. در یک مثال پایانی فوقالعاده جذاب، خواننده میآموزد که چگونه با استفاده از تکنیکهای بهینهسازی سیاست پاداش گروهی، یک مدل زبانی کوچک را به یک مدل استدلالگر و تحلیلگر قدرتمند تبدیل کند.
نمونه چاپ کتاب موجود نیست.
نظرات کاربران (0)