متا اعلام کرد که اگر محتوای آپلودشده در فیسبوک، اینستاگرام و تردز با استفاده از هوش مصنوعی ایجاد شده باشد، آن را برچسبگذاری خواهد کرد. هدف این سیاست جدید، شناسایی تصاویر تولیدشده توسط ابزارهای هوش مصنوعی برای دیگر کاربران است.
براساس اعلام وبسایت متا، این شرکت طی ماههای آینده عکسهای تولیدشده توسط ابزارهای هوش مصنوعی مولد مانند میدجرنی، Dall-E و کوپایلوت را با یک واترمارک مشخص میکند. واترمارکها احتمالاً عبارت «Imagined with AI» را نشان میدهد.
پیشازاین تصاویر تولیدشده توسط هوش مصنوعی متا دارای واترمارکهای نامرئی بوده است تا سازمانهای دیگر متوجه شوند که این تصاویر با هوش مصنوعی ساخته شدهاند؛ حالا چنین رویکردی در دیگر ابزارهای هوش مصنوعی شرکتهای گوگل، OpenAI، مایکروسافت و ادوبی اجرایی میشود و کاربران عادی نیز میتوانند این واترمارک و مشخصات عکس را ببینند.
برچسبگذاری محتواهای هوش مصنوعی در پلتفرمهای متا
«نیک کلگ»، یکی از مدیران متا، در پستی اعلام کرد که این شرکت بهطور خودکار تصاویر تولیدشده با هوش مصنوعی مولد را برچسبگذاری خواهد کرد. این برچسبها در تمامی زبانها در دسترس خواهد بود. او گفت: «از آنجایی که تفاوت بین محتوای انسانی و هوش مصنوعی محو شده است، کاربران میخواهند بدانند که مرز آنها کجاست.»
کلگ اشاره کرد که این برچسبها فعلاً به تصاویر محدود میشود و صدا و ویدیوهای هوش مصنوعی برچسب نمیخورند؛ اما این شرکت به کاربران اجازه میدهد که اگر این محتواهای غیرواقعی را شناسایی کردند، برچسبی روی آن قرار دهند.
همچنین متا در آینده به پستهایی که اطلاعات مربوط به استفاده از هوش مصنوعی مولد را در محتواهای خود درج نکنند، اخطار میدهد یا آن پستها را حذف میکند. بهنظر میرسد که فناوری متا برای شناسایی این تصاویر، حتی میتواند محتواهایی را که واترمارکهای نامرئی ندارند، تشخیص دهد.
با توجه به انتخابات ریاستجمهوری آمریکا در سال جاری میلادی، چنین سیاستهایی بیشازپیش برای شرکتهای فناوری مانند OpenAI الزامی شده است. دیپفیکهای هوش مصنوعی درحالحاضر وارد چرخه این انتخابات شدهاند. در یکی از این دیپفیکها، «جو بایدن»، رئیسجمهور ایالاتمتحده، رأیدهندگان را از حضور در انتخابات مقدماتی دموکراتها در نیوهمپشایر منصرف میکند.
ثبت دیدگاه علمی و آموزشی