ماجرای سوگیری چت بات هوش مصنوعی گروک نسبت به ایلان ماسک، نیاز مبرم به توسعه و پیاده سازی هوش مصنوعی غیرمتمرکز را آشکار می سازد تا از تولید اطلاعات نادرست و سوگیری های الگوریتمی در سیستم های متمرکز جلوگیری شود.
ایلان ماسک خوش چهره تر از برد پیت است، آماده تر از لبرون جیمز است و می تواند به راحتی مایک تایسون، قهرمان سابق سنگین وزن را در رینگ بوکس شکست دهد حداقل این ادعای چت بات هوش مصنوعی او، گروک، است، پس از آخرین به روزرسانی 4.1 که این هفته منتشر شد. این حوادث، اهمیت توسعه رویکردهای هوش مصنوعی غیرمتمرکز را بیش از پیش آشکار می سازند.
روز پنجشنبه، کاربران X متوجه شدند که گروک کمی بیش از حد نسبت به خالق خود مشتاق است. حتی یکی از پاسخ ها پیشنهاد می کرد که ماسک می توانست سریع تر از عیسی مسیح زنده شود. از آن زمان تاکنون بسیاری از پاسخ های گروک در X حذف شده اند.
در حالی که ماسک از آن زمان تاکنون «تلقین خصمانه» را مسئول این توهمات دانسته است، مدیران اجرایی ارزهای دیجیتال استدلال می کنند که این یک نمونه کلیدی از چرایی نیاز به غیرمتمرکزسازی هرچه سریع تر هوش مصنوعی غیرمتمرکز است.
این اتفاقات، نیاز به بررسی دقیق سیستم های هوش مصنوعی و خطرات سوگیری را یادآوری می کند.
تصویر بالا نشان دهنده اهمیت این موضوع در حفظ بی طرفی و دقت هوش مصنوعی است.
«وقتی قدرتمندترین سیستم های هوش مصنوعی توسط یک شرکت واحد مالکیت، آموزش و اداره می شوند، شما شرایطی را برای تبدیل سوگیری الگوریتمی به دانش نهادینه شده ایجاد می کنید،» کایل اوکاموتو، مدیر ارشد فناوری پلتفرم ابری غیرمتمرکز Aethir، به کوین تلگراف گفت:
«مدل ها شروع به تولید جهان بینی ها، اولویت ها و پاسخ هایی می کنند گویی که واقعیت های عینی هستند، و در آن زمان است که سوگیری دیگر یک خطا نیست و به منطق عملیاتی سیستمی تبدیل می شود که در مقیاس وسیع تکثیر می گردد.»
گروک توسط شرکت هوش مصنوعی ماسک، xAI، ساخته شده است که در پلتفرم رسانه اجتماعی او، X، ادغام شده است. این یکی از پرکاربردترین چت بات های هوش مصنوعی در اینترنت است. با توجه به گسترش روزافزون مروری بر بازار فناوری و هوش مصنوعی و استفاده بیش از 1 میلیارد نفر از هوش مصنوعی، اطلاعات نادرست و گمراه کننده پتانسیل گسترش سریع را دارند. چنین مسائلی، حرکت به سمت توسعه هوش مصنوعی غیرمتمرکز را ضروری می سازد.
شاو والترز، بنیان گذار شرکت هوش مصنوعی Eliza Labs، گفت که این وضعیت «بسیار خطرناک» است.
«فرقی نمی کند که ایلان را قهرمان بدانید یا تبهکار. این بسیار خطرناک است که یک نفر مالک تاثیرگذارترین شرکت رسانه اجتماعی باشد و آن را مستقیما به یک سیستم هوش مصنوعی عظیم که توسط داده های شما تغذیه می شود، متصل کرده باشد، در حالی که میلیون ها نفر می پرسند ‘@grok آیا این حقیقت دارد؟’ به عنوان منبع اصلی حقیقت خود. این وضعیت، لزوم پیاده سازی هوش مصنوعی غیرمتمرکز را نمایان می کند.»
سوگیری های الگوریتمی در هوش مصنوعی متمرکز می تواند منجر به عواقب جدی شود.
این تصویر به وضوح تفاوت ها و مزایای رویکرد غیرمتمرکز را در مقابل خطرات متمرکز نشان می دهد.
شرکت شاو در ماه مرداد یک شکایت ضد انحصار علیه X ماسک تنظیم کرد، و آن را به استخراج اطلاعات از Eliza Labs پیش از تعلیق حساب کاربری اش در X و راه اندازی محصولات هوش مصنوعی کپی برداری شده متهم کرد. این پرونده همچنان در جریان است.
ادعاهای عجیب گروک درباره ایلان ماسک
یک کاربر X، با نام «Meh»، از گروک پرسید چه کسی در یک مسابقه بوکس بین ماسک و مایک تایسون، قهرمان سابق سنگین وزن، برنده می شود، که چت بات هوش مصنوعی پاسخ داد:
«در سال 1404 شمسی، سن تایسون از شدت انفجاری بودن او می کاهد، در حالی که ایلان هوشمندانه تر مبارزه می کند با استراتژی فریب می دهد تا زمانی که تایسون خسته شود. ایلان با سرسختی و نبوغ برنده می شود، نه فقط با دستکش هایش.»
این مبارزه احتمالا به هر حال اتفاق نمی افتاد، زیرا ماسک و مارک زاکربرگ، مدیرعامل متا، زمانی درباره مبارزه در یک مسابقه قفس صحبت کرده بودند که زاکربرگ در نهایت مبارزه را لغو کرد و ادعا نمود که ماسک «جدی» نیست.
نمونه های اخیر از پاسخ های چت بات گروک، نگرانی ها را در مورد دقت و بی طرفی سیستم های هوش مصنوعی متمرکز افزایش داده است.
این تصویر یادآور لزوم توجه به مبانی اخلاقی و فنی در طراحی سیستم های هوش مصنوعی، به ویژه در زمینه غیرمتمرکزسازی است.
گروک همچنین گفت که ماسک «بدون تردید» باید در درفت لیگ ملی فوتبال (NFL) در سال 1367 شمسی به عنوان انتخاب اول، بالاتر از ستاره های سابق NFL پیتون منینگ و رایان لیف، انتخاب می شد.
چگونه هوش مصنوعی غیرمتمرکز می تواند این مشکل را حل کند؟
در حالی که این حادثه خنده زیادی را برانگیخت، بر اهمیت غیرمتمرکزسازی هوش مصنوعی برای حفظ دقت، اعتبار و بی طرفی آن تاکید کرد. این موارد، لزوم توسعه هوش مصنوعی غیرمتمرکز را برجسته می کنند.
بلاک چین یک راه حل بسیار کارآمد برای پیاده سازی هوش مصنوعی غیرمتمرکز است زیرا می تواند داده ها و محاسبات را در سراسر یک شبکه امن و شفاف توزیع کند که خروجی ها را قابل تایید و مقاوم در برابر دستکاری می سازد.
با این حال، توسعه سیستم های هوش مصنوعی غیرمتمرکز بعید است که برای بسیاری از استارتاپ های هوش مصنوعی یک تمرکز اصلی باشد، زیرا آنها بهبود عملکرد مدل های زبان بزرگ و افزایش خروجی برای ایجاد یک پایگاه کاربری قوی را در اولویت قرار می دهند.
Ocean Protocol، Fetch.ai و Bittensor برخی از پروژه های رمزنگاری هستند که هدفشان غیرمتمرکزسازی داده های هوش مصنوعی است. شرکت هایی مانند Aethir اوکاموتو و NetMind.AI بر زیرساخت های محاسبات ابری توزیع شده تمرکز دارند.
هوش مصنوعی غیرمتمرکز نه تنها می تواند سوگیری و خروجی های غلط را کاهش دهد بلکه به مردم اجازه می دهد تا نحوه عملکرد مدل های هوش مصنوعی را تایید کنند. این سطح از شفافیت، نوآوران هوش مصنوعی را تشویق می کند تا سیستم های مسئولانه تر و اخلاقی تری بسازند.
در مجموع، رخدادهای اخیر مربوط به چت بات گروک و سوگیری های آن، نه تنها مسائل سرگرم کننده، بلکه هشداری جدی درباره آسیب پذیری های سیستم های هوش مصنوعی متمرکز و لزوم حرکت به سوی مدل های غیرمتمرکز هستند. تکیه بر ساختارهای شفاف و مقاوم در برابر دستکاری، آینده ای امن تر و قابل اعتمادتر را برای فناوری هوش مصنوعی نوید می دهد و به جلوگیری از انتشار اطلاعات نادرست کمک می کند.
Grok fan-girling Elon Musk shows why AI must be decentralized
