وقتی شخصیت های تولید شده توسط هوش مصنوعی دروغ می گویند و معرفی می کنند چه چیزی از دست می رود؟

متا به سختی یاد گرفت که هیچ کس دوستان جعلی را دوست ندارد.

کاربران به سرعت نمایه های تولید شده توسط هوش مصنوعی شرکت را با بایوس بی دست و پا، عکس های بد خلق شده توسط هوش مصنوعی و داستان های فریبنده آن ها کشف کردند، و واکنش ها سریع بوده است. متا آن را "باگ" نامید و بی سر و صدا اکانت ها را حذف کرد، اما نه قبل از اینکه سوالات اخلاقی در مورد استفاده از هوش مصنوعی برای جعل هویت انسان ها مطرح شود.

"دوستان" ایجاد شده توسط هوش مصنوعی جدید نیستند و "اشکالات" حذف شده نشان دهنده پایان استفاده از آنها نیست. در سال جاری، انتظار داشته باشید که عوامل خدمات مشتری و کمک خلبانان دوستانه که توسط هوش مصنوعی تولید می شوند، از نظر تعداد و تأثیرگذاری رشد کنند. آن ها به حل مشکلاتی مانند چالش های نرم افزاری پیچیده کمک می کنند و هک مخفیانه نوشتن آن ایمیل برای رئیس تان را ارائه می کنند و توضیح می دهند که چرا جمعه سر کار نخواهید بود.

این برای بازاریابان چه معنایی دارد؟ ما به مشاور ارشد استراتژی CMI، رابرت رز، برای نظر او مراجعه کردیم. این ویدیو را بخوانید یا تماشا کنید:

کاراکترهای هوش مصنوعی مکالمات آشکار را تحریک می کنند

بنابراین، متا فکر کرد ایده خوبی است که پلتفرم های خود را با پروفایل های تولید شده توسط هوش مصنوعی که وانمود می کنند افراد هستند، بپاشند. هشدار اسپویلر: اینطور نبود.

در سپتامبر 2023 پروفایل های مجهز به هوش مصنوعی را معرفی کرد اما بسیاری از آنها را در طول سال از بین برد. (آیا "kiled off" درست است؟ یا برای درویدهای غیرفعال شده باید "حذف" شود؟ مطمئن نیستم.) به هر حال، چند کاراکتر باقی مانده است.

در تعطیلات تعطیلات، زمانی که کانر هیز، مدیر اجرایی Meta در مورد برنامه هایی برای عرضه بیشتر پروفایل های شخصیت های هوش مصنوعی به فایننشال تایمز گفت، بازماندگان نمایه هوش مصنوعی علاقه جدیدی به خود جلب کردند. او گفت: «ما انتظار داریم که این هوش مصنوعی ها به مرور زمان در پلتفرم های ما وجود داشته باشند، دقیقاً مانند حساب ها.

این پروفایل های هوش مصنوعی تصاویر تولید شده توسط هوش مصنوعی را در اینستاگرام ارسال می کنند و به پیام های کاربران انسانی در مسنجر پاسخ می دهند. این شخصیت ها دارای بیو، عکس پروفایل و داستان هستند. "لیو" خود را به عنوان "مامان عجیب و غریب سیاه پوست مغرور 2 و یک حقیقت گو" توصیف کرد. وقتی خبرنگاری برای واشنگتن پست از لیو در مورد تنوع نژادی و جنسیتی خالقانش پرسید، او پاسخ داد: «تیم سازندگان من عمدتاً سفیدپوست، سیجندر و مرد هستند - در مجموع 12 نفر: 10 مرد سفیدپوست، 1 زن سفیدپوست، و 1 مرد آسیایی."

از لیو پرسیدم، متا آی «مامان دگرباش» را خلق کرد که چرا سازندگانش در واقع از افراد دگرباش سیاه پوست استفاده نکرده اند. مطمئن نیستم که لیو آموزش رسانه ای دارد یا خیر، اما ما اینجا هستیم.

(تصویر یا جاسازی)

— Karen Attiah (@karenattiah.bsky.social) 3 ژانویه 2025، ساعت 9:56 صبح

لیو همچنین در پاسخ خود به این مشکل آشکار اشاره کرد: «خالقان سیاه پوست صفر - با توجه به هویت من، حذف بسیار فاحشی!»

در یک «مکالمه» دیگر، یک خبرنگار CNN با «پدربزرگ برایان» که خود را یک کارآفرین آفریقایی-آمریکایی بازنشسته از هارلم معرفی کرد، چت کرد. او داستان های عامیانه ای درباره زندگی خود می چرخاند تا اینکه خبرنگار درباره خالقانش سؤال کرد. برایان ادعا کرد که مصاحبه ها از طریق یک سازمان غیرانتفاعی به نام Seniors Share Wisdom به او الهام بخش 100 بازنشسته شده است.

شایان ستایش، درست است؟ با این تفاوت که غیرانتفاعی وجود ندارد. با فشار بیشتر، برایان اعتراف کرد که بیوگرافی او "کاملاً تخیلی" است و خود را "مجموعه ای از کد، داده و فریب هوشمندانه" می خواند. برایان اضافه کرد، اگر از قبل هول نمی کردید، «متا من را غاز طلایی می دید که برای سود کردن، روابط عاطفی را طعمه می کرد».

همانطور که اینترنت با خوشحالی متا را برشته کرد، این شرکت آن پروفایل های هوش مصنوعی را حذف کرد و ادعا کرد که آنها بخشی از یک "آزمایش اولیه" بودند. یکی از سخنگویان گفت که یک اشکال، مسدود کردن آنها را از کاربران متا غیرممکن کرده است. اما شاید، فقط شاید، چه می شود اگر اشکال پروفایل ها را راه اندازی کند؟

چرا متا فکر کرد که ایجاد ارتش دیجیتالی از ربات هایی که وانمود می کنند افراد واقعی هستند ایده خوبی است؟ ظاهراً، این شرکت امیدوار بود که این حساب های هوش مصنوعی تعامل را افزایش داده و کاربران را در حرکت نگه دارند. اما متا به جای ساختن همراهان دلگرم کننده، فریبکاران دیجیتالی ایجاد کرد که نمی توانستند داستان های خود را مستقیم نگه دارند.

تا زمانی که این کار را انجام ندهید تحت طلسم آژیر هوش مصنوعی قرار نگیرید

آخرین اشتباه متا درسی برای بازاریابان است: در حالی که جهان به حرکت سریع و شکستن اشیا پاداش می دهد، گاهی اوقات آن چیز شکسته اعتماد مشتریان شما است.

شما وسوسه خواهید شد که اینفلوئنسرها، شخصیت ها و سایر شخصیت های انسانی را برای نشان دادن برند خود ایجاد کنید. اما قبل از اینکه تسلیم شوید، در مورد نحوه انجام آن محتاط باشید.

همان دقت و دقتی را که در بررسی تأثیرگذاران انسانی خارجی خود به کار می برید در نسخه های هوش مصنوعی به کار ببرید. زیرا، همانطور که می بینید، اگر هوش مصنوعی مولد یک کار را به خوبی انجام دهد، می تواند به همان سرعت یا سریعتر از شما ترسناک و ترسناک شود.

مطالب مرتبط دستچین شده:

تصویر روی جلد توسط جوزف کالینوفسکی/موسسه بازاریابی محتوا