ما در آیتی هلو از شهریور ۱۴۰۲ کارمون رو با عشق به کتاب و یادگیری شروع کردیم. تخصص ما چاپ کتابهای تخصصی به زبان اصلیه و با استفاده از تکنولوژیهای روز و مواد اولیه باکیفیت، مطمئن میشیم که هر کتاب از نظر ظاهر و محتوا در بهترین سطح قرار بگیره.
هدفمون اینه که دسترسی به منابع علمی و آموزشی معتبر رو برای همه سادهتر کنیم و در این مسیر، همراه و همکار خوبی برای شما باشیم.
Applications and agents you can trust
ساخت یک نمونه اولیه هوش مصنوعی که پاسخهای جذاب و چشمگیری تولید کند، امروزه کار چندان دشواری نیست. چالش واقعی زمانی آغاز میشود که بخواهیم همان نمونه اولیه را به یک سامانه قابل اعتماد، پایدار، ایمن و آماده استفاده توسط کاربران واقعی تبدیل کنیم.
یک برنامه مبتنی بر هوش مصنوعی ممکن است در یک نمایش آزمایشی عملکرد بسیار خوبی داشته باشد، اما در محیط واقعی با مشکلاتی مانند پاسخهای نادرست، اطلاعات بدون منبع، نقض حریم خصوصی، سوگیری، کاهش کیفیت، خطاهای عملیاتی و رفتارهای پیش بینی نشده مواجه شود.
کتاب «ساخت سامانههای هوش مصنوعی قابل اعتماد» دقیقاً روی فاصله میان یک نمونه اولیه جذاب و یک سامانه قابل اتکا تمرکز دارد.
این کتاب به جای آنکه صرفاً معماری مدلهای هوش مصنوعی را به صورت نظری بررسی کند، روی روشهای مهندسی مورد نیاز برای ساخت سامانههای واقعی و قابل اعتماد تمرکز دارد.
موضوعاتی مانند دقت، اتصال پاسخها به اطلاعات معتبر، ایمنی، عدالت، حریم خصوصی، ارزیابی و قابلیت بهره برداری، ستونهای اصلی این رویکرد هستند.
در یک برنامه معمولی، رفتار نرم افزار اغلب تا حد زیادی قابل پیش بینی است. اما سامانههای مبتنی بر مدلهای زبانی بزرگ میتوانند پاسخهایی تولید کنند که همیشه قابل پیش بینی نیستند.
یک پاسخ ممکن است از نظر زبانی کاملاً صحیح به نظر برسد اما از نظر محتوایی اشتباه باشد. همچنین ممکن است مدل اطلاعاتی را با اطمینان ارائه کند که هیچ پشتوانه معتبری ندارد.
در محیط آزمایشی شاید چنین خطایی فقط یک مشکل کوچک باشد؛ اما در یک محصول واقعی میتواند پیامدهای جدی داشته باشد.
به همین دلیل، قابل اعتماد بودن باید از ابتدا بخشی از معماری و فرایند مهندسی سامانه هوش مصنوعی باشد، نه یک ویژگی که در پایان پروژه به آن اضافه شود.
ساخت یک برنامه که یک درخواست را به یک مدل ارسال کند و پاسخ دریافت کند، تنها بخش کوچکی از مسئله است.
یک سامانه واقعی باید بتواند:
پاسخهای دقیق تولید کند.
اطلاعات معتبر را از منابع مناسب دریافت کند.
از تولید اطلاعات نادرست جلوگیری یا آن را کاهش دهد.
رفتار ایمن و قابل کنترل داشته باشد.
با کاربران مختلف به شکل منصفانه رفتار کند.
اطلاعات حساس کاربران را محافظت کند.
عملکرد آن قابل اندازه گیری باشد.
در برابر تغییرات داده و مدل پایدار بماند.
در مقیاس واقعی قابل اجرا و نظارت باشد.
کتاب تمام این نیازمندیهای غیرعملکردی را در کنار قابلیت اصلی مدل بررسی میکند.
اگر در حال ساخت برنامههایی هستید که از مدلهای زبانی بزرگ استفاده میکنند، این کتاب میتواند دیدگاه مهندسی مورد نیاز برای تبدیل یک نمونه اولیه به محصول واقعی را در اختیار شما قرار دهد.
کلمات کلیدی:تمرکز کتاب بر روشهایی است که میتوانند مستقیماً در چرخه توسعه نرم افزار مورد استفاده قرار گیرند.
متخصصان یادگیری ماشین میتوانند با روشهای ارزیابی، تنظیم مدل، اتصال پاسخها به اطلاعات معتبر و سنجش عملکرد سامانه آشنا شوند.
برای افرادی که مسئول طراحی و پیاده سازی سامانههای مبتنی بر هوش مصنوعی هستند، کتاب مجموعهای از تکنیکهای عملی برای ساخت سامانههای قابل اعتماد ارائه میکند.
مدیران و رهبران فنی نیز میتوانند از چارچوب کتاب برای درک چالشهایی استفاده کنند که هنگام انتقال یک پروژه هوش مصنوعی از مرحله آزمایشی به محیط واقعی ایجاد میشوند.
برای دنبال کردن مثالهای کتاب، آشنایی مناسب با خواندن برنامههای پایتون و دانش مقدماتی یادگیری ماشین و پردازش زبان طبیعی مفید است.
با این حال، برای مطالعه کتاب نیازی به پیشینه پژوهشی عمیق در هوش مصنوعی ندارید.
هر تکنیک از مسئلهای که قرار است حل کند معرفی میشود و سپس روش حل آن توضیح داده میشود.
این رویکرد باعث میشود خواننده بتواند بدون تسلط کامل بر نظریههای پیچیده، بسیاری از تکنیکهای ارائه شده را در پروژههای خود به کار بگیرد.
کتاب ابتدا مشخص میکند که منظور از یک سامانه هوش مصنوعی قابل اعتماد چیست و چرا این موضوع در محیط واقعی اهمیت دارد.
قابل اعتماد بودن تنها به معنای درست بودن پاسخهای مدل نیست.
یک سامانه قابل اعتماد باید بتواند در جنبههای مختلفی مانند دقت، اعتبار اطلاعات، ایمنی، عدالت، حریم خصوصی، ارزیابی و عملکرد عملیاتی کیفیت مناسبی داشته باشد.
کتاب برای بررسی این ابعاد، یک چارچوب و مجموعهای از ابزارها ارائه میکند که در فصلهای مختلف توسعه پیدا میکنند.
یکی از اولین روشهایی که برای بهبود رفتار مدل بررسی میشود، طراحی مناسب درخواستها است.
نحوه بیان مسئله، ارائه زمینه مناسب و هدایت مدل میتواند روی کیفیت پاسخ تأثیر قابل توجهی داشته باشد.
کتاب روشهای مهندسی درخواست را از منظر تولید پاسخ دقیقتر و قابل اعتمادتر بررسی میکند.
هدف این نیست که صرفاً درخواستهای پیچیده نوشته شوند؛ بلکه باید مشخص باشد هر روش چگونه میتواند یک مشکل مشخص در خروجی مدل را کاهش دهد.
یکی از مشکلات مهم مدلهای زبانی بزرگ، تولید پاسخهایی است که از نظر ظاهری معتبر به نظر میرسند اما بر اطلاعات قابل تأیید تکیه ندارند.
یکی از راهکارهای مهم برای کاهش این مشکل، استفاده از معماری تولید تقویت شده با بازیابی اطلاعات است.
در این روش، سامانه ابتدا اطلاعات مرتبط را از منابع مشخص بازیابی میکند و سپس از آن اطلاعات برای تولید پاسخ استفاده میکند.
اتصال پاسخ مدل به اطلاعات معتبر، یکی از پایههای اصلی ساخت سامانههای هوش مصنوعی قابل اعتماد است.
برای اینکه سامانه بتواند اطلاعات مناسب را در مقیاس بالا پیدا کند، به سازوکارهای مناسب برای نمایش و جستجوی اطلاعات نیاز دارد.
کتاب مفاهیم مربوط به نمایش برداری دادهها و جستجوی برداری را بررسی میکند.
این فناوریها به سامانه اجازه میدهند محتوای مرتبط با درخواست کاربر را از میان حجم زیادی از اطلاعات پیدا کند.
در نتیجه، سامانه میتواند پیش از تولید پاسخ، اطلاعات مناسب را در اختیار مدل قرار دهد.
گاهی طراحی درخواست و بازیابی اطلاعات برای دستیابی به رفتار مورد نظر کافی نیست.
در چنین شرایطی، تنظیم مدل برای یک حوزه تخصصی میتواند راهکار مناسبتری باشد.
کتاب توضیح میدهد چه زمانی باید از روشهای مبتنی بر درخواست یا بازیابی استفاده کرد و چه زمانی تنظیم مدل برای تخصص دامنهای ارزش بیشتری دارد.
این موضوع برای سازمانهایی که قصد دارند مدل را برای یک حوزه تخصصی یا نیاز مشخص سازگار کنند اهمیت زیادی دارد.
کتاب در بخش دوم از تولید پاسخ به سمت سامانههایی حرکت میکند که علاوه بر پاسخ دادن، قادر به انجام عملیات هستند.
عاملهای هوشمند میتوانند بر اساس هدف، اطلاعات را بررسی کنند، ابزارها را به کار بگیرند و مجموعهای از اقدامات را انجام دهند.
اما افزایش توانایی انجام عملیات، خطرهای جدیدی نیز ایجاد میکند.
هرچه سامانه هوش مصنوعی اختیار بیشتری برای انجام عملیات داشته باشد، کنترل رفتار آن اهمیت بیشتری پیدا میکند.
به همین دلیل، کتاب معماریها و الگوهایی را بررسی میکند که به ساخت عاملهای مؤثر و در عین حال قابل کنترل کمک میکنند.
یک عامل هوشمند زمانی کاربرد بیشتری پیدا میکند که بتواند با سامانهها و ابزارهای خارجی ارتباط برقرار کند.
این ارتباط میتواند امکان دریافت اطلاعات یا انجام عملیات مختلف را برای عامل فراهم کند.
کتاب روشهای اتصال عاملها به ابزارها و سامانههای خارجی را بررسی میکند و پروتکل زمینه مدل را نیز در این چارچوب معرفی میکند.
هدف اصلی، ایجاد ارتباطی است که هم قابلیت عامل را افزایش دهد و هم کنترل و ایمنی آن را حفظ کند.
در مسائل پیچیدهتر، ممکن است یک عامل برای انجام تمام وظایف کافی نباشد.
در چنین شرایطی میتوان چند عامل را برای انجام وظایف مختلف در کنار یکدیگر قرار داد.
اما افزایش تعداد عاملها الزاماً به معنای افزایش قابلیت اعتماد نیست.
اگر عاملها به شکل نامناسبی با یکدیگر تعامل کنند، ممکن است خطاهای آنها یکدیگر را تقویت کنند.
کتاب به همین دلیل به هماهنگی، کنترل و سازوکارهای حفاظتی سامانههای چندعاملی توجه میکند.
یکی از مهمترین بخشهای ساخت سامانه قابل اعتماد، ارزیابی است.
نمیتوان تنها با چند آزمایش دستی نتیجه گرفت که یک سامانه آماده استفاده واقعی است.
باید مشخص شود:
دقت پاسخها چقدر است؟
سامانه تا چه اندازه اطلاعات معتبر ارائه میکند؟
سرعت پاسخ گویی مناسب است؟
در شرایط مختلف چگونه رفتار میکند؟
آیا کیفیت برای کاربران مختلف یکسان است؟
آیا تغییرات مدل باعث کاهش کیفیت شدهاند؟
کتاب روشهای مختلف ارزیابی عملکرد و قابلیت اعتماد سامانه را بررسی میکند.
آنچه اندازه گیری نشود، به سختی قابل مدیریت و بهبود است.
کیفیت پاسخ تنها معیار موفقیت نیست.
یک سامانه ممکن است پاسخهای بسیار دقیقی تولید کند اما آنقدر کند باشد که برای کاربران واقعی قابل استفاده نباشد.
بنابراین ارزیابی باید هم کیفیت و هم عملکرد را پوشش دهد.
کتاب به سنجش عملکرد سامانه و بررسی این موضوع میپردازد که آیا سامانه از نظر کیفیت و سرعت برای عرضه آماده است یا خیر.
پس از ساخت و ارزیابی، مرحله استقرار آغاز میشود.
اما استقرار پایان فرایند نیست.
رفتار یک سامانه ممکن است پس از ورود کاربران واقعی تغییر کند. حجم درخواستها، نوع ورودیها و شرایط استفاده واقعی ممکن است با محیط آزمایشی تفاوت زیادی داشته باشند.
کتاب زیرساختهای مورد نیاز برای استقرار پایدار سامانههای هوش مصنوعی و حفظ کیفیت پس از ورود به محیط واقعی را بررسی میکند.
حتی اگر سامانه در روز اول عملکرد مناسبی داشته باشد، نمیتوان فرض کرد که برای همیشه همین وضعیت را حفظ خواهد کرد.
تغییر دادهها، تغییر مدل، تغییر رفتار کاربران و تغییر منابع اطلاعاتی میتوانند باعث کاهش کیفیت شوند.
به همین دلیل، پایش مداوم یکی از اجزای ضروری یک سامانه قابل اعتماد است.
کتاب روشهای نظارت بر سامانه را بررسی میکند تا مشکلات کیفیت پیش از تبدیل شدن به بحران شناسایی شوند.
سامانههای هوش مصنوعی باید با کاربران مختلف به شکل منصفانه رفتار کنند.
سوگیری موجود در دادهها، مدل یا طراحی سامانه میتواند باعث شود کیفیت خدمات برای گروههای مختلف یکسان نباشد.
کتاب موضوع سوگیری و عدالت را به عنوان بخشی از چارچوب قابلیت اعتماد بررسی میکند.
قابل اعتماد بودن یک سامانه فقط به عملکرد فنی آن محدود نمیشود؛ نحوه رفتار آن با کاربران نیز اهمیت دارد.
سامانههای هوش مصنوعی ممکن است با اطلاعات حساس کاربران، دادههای سازمانی و اطلاعات شخصی سروکار داشته باشند.
بنابراین محافظت از دادهها باید بخشی از طراحی سامانه باشد.
کتاب اهمیت حریم خصوصی را در کنار سایر نیازمندیهای قابلیت اعتماد بررسی میکند و نشان میدهد چرا حفاظت از اطلاعات نباید به مرحلهای جدا از معماری اصلی سامانه موکول شود.
استفاده مسئولانه از هوش مصنوعی شامل مجموعهای از اصول و اقدامات برای کاهش خطر، حفاظت از کاربران و افزایش شفافیت سامانه است.
کتاب در فصل پایانی چارچوب خود، موضوعاتی مانند سوگیری، حریم خصوصی و استفاده مسئولانه از هوش مصنوعی را کنار یکدیگر قرار میدهد.
این رویکرد باعث میشود قابلیت اعتماد از یک موضوع صرفاً فنی فراتر برود و جنبههای انسانی و سازمانی نیز در نظر گرفته شوند.
کتاب در یازده فصل و سه بخش اصلی تنظیم شده است.
بخش اول روی ایجاد پاسخهای دقیق، معتبر و قابل اعتماد تمرکز دارد.
فصل اول؛ تعریف سامانه هوش مصنوعی قابل اعتماد
این فصل مفهوم قابلیت اعتماد را تعریف میکند، اهمیت آن در محیط واقعی را توضیح میدهد و چارچوب کلی کتاب را معرفی میکند.
فصل دوم؛ تولید پاسخهای قابل اعتماد
روشهای مهندسی درخواست و تکنیکهای هدایت مدل برای تولید پاسخهای دقیقتر در این فصل بررسی میشوند.
فصل سوم؛ اتصال پاسخها به اطلاعات معتبر
این فصل به معماری تولید تقویت شده با بازیابی اطلاعات میپردازد و نحوه استفاده از اطلاعات بازیابی شده برای تولید پاسخ را بررسی میکند.
فصل چهارم؛ نمایش برداری و جستجوی برداری
سازوکارهای مورد نیاز برای بازیابی اطلاعات در مقیاس بالا، نمایش برداری و جستجوی برداری موضوع اصلی این فصل هستند.
فصل پنجم؛ تنظیم مدل برای تخصص دامنهای
این فصل به تنظیم مدل برای نیازهای تخصصی میپردازد و شرایطی را بررسی میکند که روشهای مبتنی بر درخواست و بازیابی اطلاعات به تنهایی کافی نیستند.
بخش دوم از پاسخ دادن به انجام عملیات حرکت میکند؛ جایی که خطر خطا افزایش پیدا میکند.
فصل ششم؛ عاملهای هوشمند
معماریها و الگوهای طراحی عاملهای هوشمند مؤثر و قابل کنترل در این فصل بررسی میشوند.
فصل هفتم؛ اتصال عاملها به ابزارها
این فصل نحوه اتصال عاملهای هوشمند به سامانههای خارجی و پروتکل زمینه مدل را بررسی میکند.
فصل هشتم؛ سامانههای چندعاملی
هماهنگی میان چند عامل و سازوکارهای حفاظتی مورد نیاز برای جلوگیری از شکستهای زنجیرهای موضوع اصلی این فصل است.
بخش سوم به روشهایی میپردازد که کیفیت سامانه را پس از استقرار حفظ میکنند.
فصل نهم؛ ارزیابی و عملکرد
روشهای اندازه گیری قابلیت اعتماد و سرعت سامانه و معیارهای لازم برای تصمیم گیری درباره آماده بودن محصول بررسی میشوند.
فصل دهم؛ استقرار و پایش
این فصل زیرساختهای مورد نیاز برای استقرار و نظارت بر سامانه را بررسی میکند و به جلوگیری از کاهش نامحسوس کیفیت در زمان استفاده واقعی میپردازد.
فصل یازدهم؛ سوگیری، حریم خصوصی و هوش مصنوعی مسئولانه
فصل پایانی چارچوب را با بررسی عدالت، حفاظت از اطلاعات کاربران و شفافیت تکمیل میکند.
کتاب تنها به توضیح مفاهیم اکتفا نمیکند و از پروژههای عملی برای نشان دادن تکنیکها استفاده میکند.
نمونههای برنامه نویسی با پایتون ارائه شدهاند و در بسیاری از موارد، نسخههای کامل و قابل اجرای پروژهها نیز در منابع همراه کتاب وجود دارند.
این موضوع به خواننده اجازه میدهد تکنیکهای مطرح شده را در پروژههای واقعیتر آزمایش کند.
نمونههای داخل کتاب بیشتر برای شفافیت و آموزش مفهوم تنظیم شدهاند و ممکن است برخی بخشهای مقدماتی مورد نیاز برای اجرای مستقل را شامل نشوند.
از آنجا که ابزارهای هوش مصنوعی و رابطهای برنامه نویسی مدلها با سرعت زیادی تغییر میکنند، نسخه کامل و نگهداری شده نمونههای برنامه نویسی اهمیت ویژهای دارد.
این منابع میتوانند امکان اجرای پروژهها و سازگار کردن آنها با نیازهای جدید را فراهم کنند.
در صورت وجود تفاوت میان نمونههای کوتاه داخل کتاب و نسخه کامل پروژهها، نسخه کامل و نگهداری شده نمونهها مبنای اصلی اجرای مثالها در نظر گرفته میشود.
یکی از مشکلات اصلی پروژههای هوش مصنوعی این است که فاصله زیادی میان «کار کردن نمونه اولیه» و «قابل اعتماد بودن محصول» وجود دارد.
ممکن است یک برنامه در یک محیط آزمایشی عالی به نظر برسد، اما هنگام استفاده گسترده با مشکلاتی مواجه شود که در ابتدا دیده نشدهاند.
این کتاب به خواننده کمک میکند این فاصله را بهتر درک کند و برای پر کردن آن از روشهای مهندسی استفاده کند.
قابلیت اعتماد در این کتاب یک ویژگی جانبی نیست؛ بلکه بخشی از طراحی سامانه از ابتدا تا زمان بهره برداری است.
مسیر کتاب به صورت تدریجی پیچیدهتر میشود.
ابتدا مسئله تولید پاسخ دقیق و معتبر بررسی میشود. سپس سامانه به منابع اطلاعاتی متصل میشود. در مرحله بعد، مدل برای نیازهای تخصصی سازگار میشود.
پس از آن، سامانههایی بررسی میشوند که قادر به انجام عملیات هستند و در نهایت موضوع ارزیابی، استقرار، پایش، عدالت و حریم خصوصی مطرح میشود.
این ساختار باعث میشود خواننده مسیر تکامل یک برنامه ساده مبتنی بر هوش مصنوعی تا یک سامانه حرفهای و تولیدی را دنبال کند.
«ساخت سامانههای هوش مصنوعی قابل اعتماد» یک راهنمای عملی برای مهندسان و مدیران فنی است که میخواهند سامانههای مبتنی بر مدلهای زبانی بزرگ را از مرحله نمونه اولیه به محیط واقعی منتقل کنند.
کتاب به جای تمرکز صرف بر معماری مدلها، روی چالشهایی تمرکز میکند که در پروژههای واقعی اهمیت زیادی دارند؛ از دقت و اعتبار پاسخ گرفته تا بازیابی اطلاعات، تنظیم مدل، عاملهای هوشمند، سامانههای چندعاملی، ارزیابی، استقرار، پایش، سوگیری، حریم خصوصی و هوش مصنوعی مسئولانه.
ساختار سه بخشی کتاب نیز یک مسیر منطقی ایجاد میکند: ابتدا قابلیت اعتماد پاسخهای مدل، سپس قابلیت اعتماد سامانههایی که میتوانند اقدام کنند و در نهایت قابلیت اعتماد سامانه در محیط واقعی.
اگر برنامه نویس، مهندس یادگیری ماشین، مهندس هوش مصنوعی یا مدیر فنی هستید و با این پرسش مواجه شدهاید که چگونه یک نمونه اولیه جذاب هوش مصنوعی را به محصولی تبدیل کنیم که بتوان با اطمینان در اختیار کاربران واقعی قرار داد، این کتاب میتواند دیدگاه و ابزارهای عملی مورد نیاز شما را فراهم کند.
نمونه چاپ کتاب موجود نیست.
نظرات کاربران (0)