تولید و انتشار اطلاعات نادرست
در آخرین روزهای ماه مه سال جاری، OpenAI اولین گزارش خود را در مورد چگونگی استفاده از ابزارهای هوش مصنوعی این شرکت برای عملیات نفوذ مخفی منتشر کرد و فاش کرد که این شرکت کمپین‌ها و اقداماتی برای انتشار اطلاعات نادرست از روسیه، چین، اسرائیل دارد و باعث ایجاد مزاحمت شده است. ایران.
گزارش 39 صفحه ای OpenAI که در پایان ماه مه منتشر شد، اینگونه است. یکی این یکی از دقیق ترین گزارش های یک شرکت هوش مصنوعی در مورد استفاده از نرم افزار آن برای مقاصد تبلیغاتی است.
به گزارش گاردین، بخشی دیگر از گزارش تحلیل OpenAI درباره نحوه استفاده از ابزارهای هوش مصنوعی این شرکت برای عملیات نفوذ مخفیانه نیز به اقدامات ایران پرداخته است. در این بخش ادعا شده است که ایران از ابزار هوش مصنوعی OpenAI برای نوشتن مقالاتی با هدف آمریکا و اسرائیل استفاده کرده و آنها را به انگلیسی و فرانسوی ترجمه کرده است.
در ادامه این گزارش همچنین به سوء استفاده اسرائیل از ابزارهای هوش مصنوعی OpenAI اشاره شده و به این موضوع اشاره شده است که یک شرکت سیاسی اسرائیلی به نام Stoic شبکه ای از حساب های کاربری جعلی در شبکه های اجتماعی را برای ایجاد طیف وسیعی از محتوا راه اندازی کرده است، از جمله پست هایی که در آن به تشریح اعتراضات دانشجویان آمریکایی علیه جنگ اسراییل در غزه ضد یهود است.
این گزارش همچنین نشان می‌دهد که چگونه هوش مصنوعی تولیدی در کمپین‌ها و عملیات‌های اطلاعات نادرست به‌عنوان ابزاری برای بهبود جنبه‌های خاصی از تولید محتوا، مانند ایجاد پست‌های جذاب‌تر به زبان خارجی، و نه فقط به عنوان یک ابزار تبلیغاتی استفاده می‌شود در این گزارش آمده است که هوش تا حدودی، اما هیچ کدام تنها به هوش مصنوعی متکی نبودند. در واقع همه محتوای تولید شده توسط هوش مصنوعی است یکی آنها از جمله انواع محتوای ارسال شده توسط نمایندگان در این کشورها بودند که در کنار قالب های سنتی تر مانند متون دست نویس یا میم های کپی شده از اینترنت استفاده می شدند. اگرچه این کمپین ها تأثیر قابل توجهی نداشتند، اما نشان دادند که چگونه استفاده مخرب از هوش مصنوعی مولد به آنها اجازه می دهد تولید تبلیغات را افزایش دهند. نوشتن، ترجمه و ارسال محتوا اکنون می تواند با کمک ابزارهای هوش مصنوعی آسان تر و کارآمدتر باشد.
تصمیمی در راستای سیاست کاخ سفید
در طول سال گذشته، هوش مصنوعی مولد بارها در کشورهای سراسر جهان برای تأثیرگذاری بر سیاست و افکار عمومی مورد سوء استفاده قرار گرفته است. جعل عمیق و تولید کمپین های صوتی، تصویری و متنی تولید شده توسط هوش مصنوعی برای ایجاد اختلال در کمپین های انتخاباتی استفاده شده است که منجر به افزایش فشار بر شرکت هایی مانند OpenAI برای محدود کردن استفاده از ابزارهایشان شده است.
با این حال، OpenAI اعلام کرده است که قصد دارد به طور منظم گزارش‌های مشابهی را در مورد عملیات نفوذ مخفی با استفاده از ابزارهای هوش مصنوعی این شرکت منتشر کند و حساب‌های کاربری را که خط‌مشی‌ها و مقررات شرکت را نقض می‌کنند حذف کند.
این شرکت در گذشته کاربران این کشورها را از دسترسی به چت و API GPT خود منع کرده بود، اما پس از انتشار این گزارش تحلیلی از استفاده از ابزارهای هوش مصنوعی OpenAI برای عملیات نفوذ مخفیانه و در دو هفته اخیر در ایمیل اعلام کرد که اجرای این محدودیت ها گسترده خواهد بود.
اگرچه OpenAI جزئیاتی در مورد دلایل این تصمیم ارائه نکرده است، اما به نظر می رسد این تصمیم همزمان با تلاش های کاخ سفید برای جلوگیری از دسترسی کشورهایی مانند چین، روسیه و ایران به فناوری های پیشرفته هوش مصنوعی آمریکایی است.
در همین حال، بر اساس برخی گزارش ها، کاربران چینی همچنان می توانستند از ابزارهای OpenAI از طریق پلتفرم محاسبات ابری Microsoft Azure استفاده کنند. از آنجایی که مایکروسافت و OpenAI همکاری نزدیکی با هم دارند، مایکروسافت دسترسی خوبی به ابزارها و محصولات این شرکت دارد.
پس از انتشار اخباری مبنی بر اعمال محدودیت‌های گسترده‌تر OpenAI برای کاربران در روسیه، ایران و چین، مایکروسافت تأیید کرد که به ارائه خدمات ابری Azure به کاربران هنگ‌کنگ ادامه خواهد داد. حال باید دید ادامه جنگ ژئوپلیتیک در حوزه هوش مصنوعی به کجا ختم خواهد شد.
23302