هوش مصنوعی و سناریوهای احتمالی برای آینده بشر

«حمیدرضا مازندرانی»، پژوهشگر شبکه و هوش مصنوعی در یادداشت اختصاصی که برای دیجیاتو نوشته، گزارش مکنزی درباره روندهای فناوری را بررسی کرده است.

در گزارش چشم‌انداز روندهای فناوری 2025 که موسسه مشاوره مکینزی منتشر کرده، نام «عاملیت یا کنشگری هوشمند» (agentic AI) به چشم می‌خورد. جالب اینجاست که در همین گزارش، هوش مصنوعی نیز به عنوان یکی از روندهای فناوری شناسایی شده و این نشانگر اهمیت مفهوم «عاملیت» است، تا آن‌جا که سرفصلی جداگانه به آن اختصاص داده شده است.

همین حالا بسیاری از شرکت‌های هوش مصنوعی با افزودن قابلیت «عاملیت» به محصولات خود، دستاوردهایی را در این حوزه رقم زده‌اند. برای مثال، OpenAI (سازنده‌ چت جی‌پی‌تی) در ابتدای سال جاری میلادی یک عامل هوشمند به نام Operator طراحی کرد که می‌تواند برای کاربران پرواز رزرو کند، یا سفارش مواد غذایی بدهد. اما فراتر از این دستاوردهای اولیه، چه آینده‌ای در انتظار ماست؟ پیش از پرداختن به این پرسش حیاتی و بررسی جنبه‌هایی از گزارش مکینزی به ویژه آینده بازار کار، بهتر است تعریفی از مفهوم عاملیت هوشمند ارائه شود.

عاملیت هوشمند دربردارنده سیستم‌هایی است که می‌توانند به صورت مستقل برنامه‌ریزی کنند و انجام وظایف پیچیده و چندمرحله‌ای را بر عهده بگیرند. در واقع مزیت اساسی عاملیت هوشمند نسبت به هوش مصنوعی متداول در این است که می‌تواند فراتر از ارائه تحلیل، بدون دخالت انسان تغییراتی را در محیط ایجاد کند. برای مثال، یک دستیار هوشمند فروش علاوه بر برقراری ارتباط با مشتریان، می‌تواند سفارش کالا انجام دهد و موجودی انبار را نیز مدیریت کند. انجام چنین وظایفی نیازمند آن است که عامل هوشمند به کمک مدل‌های زبانی نظیر چت جی‌پی‌تی یا دیپ‌سیک با انسان ارتباط برقرار کند؛ از طریق واسطه‌های اینترنتی کالایی را سفارش دهد و پایگاه داده انبار را نیز بروزرسانی کند.

چنان‌که ممکن است حدس زده باشید، مرز شفافی بین عامل هوشمند و غیرهوشمند وجود ندارد، و همین باعث شده عبارت «عاملیت هوشمند» در متون رسمی مثل همین گزارش مکینزی به کار رود تا طیفی از قابلیت‌ها را پوشش دهد.

به طور کلی، عاملیت هوشمند، این مزیت را ایجاد می‌کند که به انواع گوناگونی از ورودی‌ها، حتی آن‌هایی که قبلاً دیده نشده، پاسخ داده شود. این ورودی‌ها به زبان انسان خواهد بود و به همین جهت است که برخی زبان انگلیسی را مهم‌ترین زبان برنامه‌نویسی آینده می‌دانند. در واقع، با ظهور این فناوری حتی با دانش فنی اندک نیز می‌توان سیستم را برای انجام کارهای پیچیده و بلندمدت به‌کار گرفت.

در سمت خروجی نیز، این عامل‌ها می‌توانند فراتر از تولید دیتای مصنوعی، همانند انسان وارد وب‌سایت‌ها شده و حتی فرم‌های ثبت‌نام را پر کنند. جالب‌تر این که، عامل‌های هوشمند رباتیک امکان انجام فعالیت‌های فیزیکی نظیر آشپزی را خواهند داشت.

برای انجام چنین کارهای جذابی، لازم است که عامل‌های هوشمند بتوانند استدلال انجام دهند، به این معنی که از یک سری مفروضات اولیه به نتیجه‌گیری برسند. مثلاً اگر مشتری کالایی را درخواست کرده که موجود نیست، آن کالا باید سفارش داده شود و پایگاه داده انبار نیز اصلاح گردد. در این راستا، ابزارهای جانبی، مانند کدنویسی، ماشین‌حساب یا تقویم، دامنه عملکرد عامل را گسترش می‌دهد.

سرمایه‌گذاری بیش از یک میلیارد دلاری

در سال 2024، بیش از یک میلیارد دلار در این فناوری سرمایه‌گذاری شده و موقعیت‌های شغلی نیز رشد تقریباً ده برابری نسبت به سال قبل داشته است. از بین محورهای مختلف توسعه فناوری، پوشش خبری سهم بسیار بالاتری نسبت به سایر محورها از جمله جستجوی کاربران و فعالیت‌های پژوهشی داشته که نوظهور بودن فناوری را بازتاب می‌دهد.

از لحاظ نیروی کار نیز، بیش‌ترین رشد تقاضا مربوط به مهندسی نرم‌افزار و علوم داده (دیتاساینس) بوده است؛ با این حال عنوان شغلی مدیریت محصول نیز در حال رشد است که به عنوان یک پل بین نیازهای مصرف‌کنندگان و قابلیت‌های عاملیت هوشمند عمل خواهد کرد. در همین راستا، «اندرو ان‌جی» دانشمند سرشناس، بر این باور است که رقابت شرکت‌ها برای یافتن افرادی که توسعه محصول و هوش مصنوعی را توامان درک کنند (بدانند چه چیزی ساخته شود و چگونه ساخته شود)، شتاب خواهد گرفت.

عمده‌ترین تلاش برای این که مدل‌های زبانی (قلب تپنده عامل‌های هوشمند)، بتوانند استدلال‌های بهتری انجام دهند مقیاس‌بخشیدن به آن‌هاست. عمدتاً این مقیاس‌بخشی معادل با افزایش تعداد پارامترهای قابل یادگیری (همان وزن‌های شبکه عصبی) در نظر گرفته می‌شود. به موازات، توسعه روش‌های چندعاملی (Multi-agent) شامل چند عامل هوشمند که همچون یک تیم انسانی با هم همکاری می‌کنند، در دستور کار بوده است. در همان مثال فروشگاه، ممکن است یک عامل مسئول ارتباط با مشتری باشد، یکی مسئول سفارش کالا و دیگری نیز مسئول مدیریت انبار. این طراحی مزیت‌های بالقوه فراوانی خواهد داشت، از جمله این که هر عامل می‌تواند مسئول یک کار تخصصی باشد و برای همان کار بهینه‌سازی شود. این عامل‌ها می‌توانند با یکدیگر «حرف بزنند» و حتی زبان مخصوص به خودشان را شکل دهند که از زبان انسانی فشرده‌تر و کارآمدتر باشد. در این میان، بدون گرفتارشدن به روایت‌های خیال‌پردازانه‌ درباره شورش ربات‌ها، نگرانی موجهی از بابت شفافیت عملکرد و کنترل‌پذیری عاملیت هوشمند شکل می‌گیرد.

ریسک‌های عاملیت هوشمند

به رغم دستاوردهای اولیه، در فرآیند توسعه عاملیت هوشمند، ابهامات اساسی رخ می‌نماید. ریسک‌های ناشی از اشتباهات عامل‌ها (که می‌دانیم محدود به تحلیل نادرست نیست چرا که عامل با محیط مستقیماً در تماس است و روی آن تاثیر می‌گذارد) یک نمونه از این ابهامات است. ریسک آموزش مدل با داده‌های بی‌کیفیت و غیرهمسو با نیت سازندگان نیز جدّی است. همین تازگی مدل Grok اظهارات نژادستیزانه‌ای صادر کرد که منجر به عذرخواهی سازنده آن شد. حال بروز چنین اشتباهی از سوی یک عامل هوشمند به مراتب خطرناک‌تر از مدل زبانی خواهد بود؛ برای مثال ممکن است از سرویس‌دهی به طیف خاصی از مشتریان سرباز زند.

تاثیرات عامل‌های هوشمند بر بازار کار نیز مورد بحث است. حتی اگر در درازمدت این فناوری به نفع جوامع انسانی باشد، تاثیرات آن در دوره گذار مسئله‌ای متفاوت است: این که نیروی کار انسانی و دیجیتال چگونه همزیستی و همکاری داشته باشند. آیا عامل‌های هوشمند کارهای روتین و تکراری را بر عهده خواهند گرفت و کمک فکری برای نیروی کار انسانی خواهند بود، یا جایگزین شغل‌های دارای ساختار مشخص خواهند شد؟

این که چه میزان اختیار به عامل‌های هوشمند داده شود موضوعی دیگر است که اولویت‌دهی به ارزش‌ها در پاسخ به آن نقش دارد. آیا روزی خواهد رسید که اصطلاح «مدیریت ذره‌بینی» که بار معنایی منفی دارد، در به کارگیری این فناوری رواج یابد، یا نظارت دقیق بر عملکرد آن‌ها یک هنجار همگانی محسوب خواهد شد؟

از نظر نگارنده این یادداشت، پاسخ به این سوالات و ابهامات مستلزم شناخت و سرمایه‌گذاری در فناوری است؛ آن هم به صورت جمعی و نه از سوی یک اقلیت محدود. در چنین شرایطی، دسترسی ناکافی به فناوری‌های ارتباطی، فاصله با لبه دانش و فناوری را بیش از پیش خواهد نمود. به عبارت دیگر، همزمان که پاسخ‌های رنگارنگ مردم جهان به این سوالات، تابلوی آینده فناوری را به تدریج ترسیم می‌کند، هر گونه مانع در این مسیر قدرت تاثیرگذاری را از جامعه ما سلب می‌کند. از آن بدتر، حتی از اندیشیدن به روند تکامل یکی از هستی‌گرایانه‌ترین فناوری‌های تاریخ بشر محروم خواهد شد.