«واترمارک» با فریبکاری هوش مصنوعی مقابله می کند

به گزارش اقتصاد انرژی به نقل از خبرگزاری ایرنا :

در حالی که فناوری در جهان با سرعت در حال پیشرفت است، تشخیص بین محتوای تولیدشده توسط انسان ها با محتوای تولیدی هوش مصنوعی روز به روز دشوارتر و پیچیده‌تر می شود.

در این حال یک تیم کارشناسی در شرکت تحقیقات هوش مصنوعی «دیپ مایند» وابسته به «گوگل»، با هدایت «دمیس هاسابیس» مدیر اجرایی آن در گوگل گام مهمی در این زمینه با معرفی یک ابزار ایجاد واترمارک برداشته است. این ابزار نوآورانه یک تکنیک ایجاد واترمارک برای تصاویر تولیدشده با هوش مصنوعی را معرفی می کند؛ اقدامی که صداقت و مسئولیت‌پذیری مورد نیاز در زمان وفور تصاویر سنتتیک را تقویت می‌کند.

«دیپ مایند» در یک بیانیه مشترک با «گوگل کلاود» ابزار نیرومند موسوم به «سینت‌آی‌دی» (SynthID) با هدف مقابله با محتوای تولیدی با هوش مصنوعی را معرفی کرده است. این فناوری ثبت واترمارک یک اثر یا مُهر دیجیتالی نامرئی را بطور مستقیم به درون پیکسل‌های یک تصویر می‌افزاید به طوری که برای چشم انسان قابل دیدن نیست در حالی که برای الگوریتم‌های خاص شناسایی هوش مصنوعی قابل ردیابی و دیدن است.

«دیپ‌مایند» ظرفیت بالقوه این ابزار برای ایجاد تحولی انقلابی در زمینه شناسایی محتوای تولیدی با هوش مصنوعی را مورد تاکید قرار داده است. این فرایند ایجاد واترمارک که با ترکیب دقیق دو مدل یادگیری عمیق طراحی و ساخته شده است، بین دو مقوله نامشهودبودن و مقاومت در برابر دستکاری‌های معمول تصاویر یک توازن ایجاد می‌کند. واترمارک «سینت‌آی‌دی» در برابر تغییراتی مانند تغییر رنگ، افزودن فیلتر و فشرده‌سازی مقاومت می‌کند.

این تیم تحقیقاتی با اذعان به اینکه افشای کامل جزئیات درباره مکانیسم کار این ابزار می‌تواند آسیب‌پذیری‌های آن را مشخص کند، عامدانه تا حدی جنبه محرمانه درباره این فرایند ایجاد واترمارک را حفظ کرده اند. این درحالی است که هکرها در تلاش برای غلبه کردن بر اقدامات فنی برای ایجاد و ثبت واترمارک هستند و این ضرورت ادامه تلاش ها برای نوآوری‌ بیشتر در این زمینه را ایجاب می کند.

از سوی دیگر، منتقدان بر ضرورت متدهای کامل‌تر و فراگیرتر فراتر از ثبت واترمارک برای شناسایی محتوای تولیدی هوش مصنوعی تاکید کرده و در این زمینه یک رقابت مشابه مورد مربوط به بدافزارها و نرم‌افزارهای آنتی‌ویروس را پیش بینی می کنند.