شرکت OpenAI میگوید میخواهد از دیدگاههای عموم مردم برای پیادهسازی شیوههای مدیریت و رعایت اصول اخلاقی در مدلهای هوش مصنوعی آینده استفاده کند. در همین راستا، سیستمی طراحی خواهد شد تا نظرات مردم را دریافت و آنها را در این مدلها پیادهسازی کند.
شرکت سازنده ChatGPT در بیانیهای اعلام کرد آنها در حال تشکیلدادن تیمی موسوم به Collective Alignment هستند که محققان و مهندسان در آن حضور خواهند داشت و سیستمی برای گردآوری و «کدگذاری» نظرات مردم در مدلهای هوش مصنوعی که در محصولات و سرویسهای این شرکت پیادهسازی میشود، ایجاد خواهند کرد.
OpenAI در پستی در وبلاگ خود نوشت:
«با مشاوران بیرون از سازمان و تیمهای مستقل در زمینههایی نظیر اجرای برنامههای پایلوت و پیادهسازی نمونههای اولیه در مدلهای هوش مصنوعی همکاری خواهیم کرد. ما درحال جذب مهندسان تحقیقی با سوابق فنی متنوع هستیم تا این پروژه را همراه ما بسازند.»
ایجاد تیمی مستقل برای سازماندهی هوش مصنوعی
تیم Collective Alignment بخشی از برنامهای است که OpenAI آن را در ماه مه 2023 (اردیبهشت 1402) کلید زد. هدف این تیم راهاندازی یک «فرایند دموکراتیک» برای تصمیمگیری درباره قوانینی است که سیستمهای هوش مصنوعی باید رعایت کنند. OpenAI میگوید هدف این برنامه تأمین مالی افراد، تیمها و سازمانها برای توسعه مفاهیم مختلف است تا به مسائل مربوط به سیستمهای امنیتی و سازماندهی هوش مصنوعی پاسخ دهد.
OpenAI سعی کرده است که این برنامه را از منافع تجاری خود جدا نگه دارد. اما باتوجه به انتقادات «سم آلتمن»، مدیرعامل OpenAI از مقررات اتحادیه اروپا و دیگر رگولاتورها، انجام چنین اقدامی سخت است. آلتمن و دیگر مدیران این شرکت بارها استدلال کردهاند که سرعت نوآوری در هوش مصنوعی آنقدر سریع است که نمیتوان انتظار داشت که این رگولاتورها این فناوری را مهار کنند؛ بنابراین ایجاد چنین تیمی الزامی است.
برخی از رقبای OpenAI نیز از جمله متا، این شرکت را به تصرف و انحصاریکردن رگولاتور صنعت هوش مصنوعی متهم کردهاند. اما OpenAI این اتهام را رد کرده است؛ این شرکت با اشاره به تیم Collective Alignment، بر دموکراتیکبودن این برنامه تأکید دارد.
ثبت دیدگاه علمی و آموزشی