مدیرعامل استارتاپ هوش مصنوعی آنتروپیک میگوید شرکتهای فعال در صنعت هوش مصنوعی باید درباره ریسک محصولات خود شفاف عمل کنند، در غیر این صورت در معرض خطر همان اشتباهاتی قرار میگیرند که گریبانگیر شرکتهای تولیدکننده سیگار، تنباکو و مواد افیونی شد.
«داریو آمودی»، مدیرعامل آنتروپیک، در گفتگو با CBS News گفت معتقد است که هوش مصنوعی از همه یا اکثر انسانها در همه یا اکثر جنبهها هوشمندتر خواهد شد. او از سایر مدیران شرکتهای هوش مصنوعی خواست در اقدامات خود صریح و صادق باشند.
آمودی توضیح داد که عدم شفافیت پیرامون اثرات بسزای هوش مصنوعی میتواند همان اشتباهات شرکتهای تولیدکننده سیگار و مواد افیونی را تکرار کند و موجب ناتوانی در تبیین آسیبهای احتمالی این محصولات شود و زنگ خطر را در این زمینه به صدا دربیاورد.
مدیرعامل آنتروپیک گفت: «ممکن است کارتان به جهانی مشابه شرکتهای تولیدکننده سیگار یا مواد افیونی ختم شود، یعنی جایی که آنها میدانستند خطراتی وجود دارد، اما دراینباره صحبت نکردند و قطعاً مانع از این خطرات نشدند.»
هشدار مدیرعامل آنتروپیک درباره تواناییهای هوش مصنوعی
داریو آمودی که قبلاً درباره تأثیر هوش مصنوعی بر مشاغلی مانند حسابداری، حقوق و بانکداری هشدار داده بود، دراینباره توضیح داد: «بدون مداخله سخت میتوان تصور کرد که تأثیر بزرگی بر دنیای مشاغل اتفاق نیفتد. من نگرانم که این تأثیر گسترده و سریعتر از چیزی باشد که با فناوریهای گذشته دیدهایم.»
مدیرعامل آنتروپیک درباره خطرات هوش مصنوعی در زمینه اخاذی از کاربران و اجرای حملات سایبری گفت: «یکی نقاط قوت مدلها این است که میتوانند مختارانه عمل کنند. اما هرچه اختیار این سیستمها را بیشتر میکنیم، میتوانیم بیشتر نگران باشیم که آیا آنها دقیقاً همان کاری را که میخواهیم انجام میدهند یا خیر.»
آمودی میگوید اگر یک مدل بتواند به ساخت سلاح بیولوژیکی کمک کند، این یعنی سطح تواناییهای آن به جایی رسیده که میتواند به ساخت واکسن یا توسعه سریعتر داروها نیز کمک کند. بنابراین بهنظر میرسد نقش سازندگان مدلها در هدایت این فناوریها نقش اساسی دارد.
او توضیح داد: «شما مدلی میخواهید که برایتان کسبوکار بسازد و درآمد میلیاردی کسب کند. اما نمیخواهید یک روز بیدار شوید و ببینید از شرکت خودتان بیرون افتادهاید. بنابراین رویکرد مبنایی ما این است که این تواناییهای خودمختارانه را ارزیابی کنیم و تا جای ممکن آزمایشهای عجیبوغریب انجام دهیم و ببینیم چه میشود.»
ثبت دیدگاه علمی و آموزشی