هوش مصنوعی به‌عنوان یکی از پیشرفت‌های قابل‌توجه در دهه‌های اخیر، مورد توجه بسیاری از محققان و صنعت‌های مختلف قرار گرفته است. هدف اصلی هوش مصنوعی، ایجاد سیستم‌های هوشمند و خودکار است که بتوانند به‌طور خودکار از داده‌های ورودی یاد بگیرند و درک بهتری از محیط پیرامون خود پیدا کنند. یادگیری عمیق یکی از روش‌های مهم در هوش مصنوعی است که توانایی یادگیری خودکار برای تشخیص الگوهای پیچیده در دادهها را دارد.
با استفاده از شبکه‌های عصبی عمیق، می‌توان به‌طور خودکار و بدون‌نیاز به الگوریتم‌های دقیق، اطلاعات مفیدی از دادهها استخراج کرد. علاوه‌بر این، هوش مصنوعی در بسیاری از صنایع و حوزه‌های مختلف مورد استفاده قرار می‌گیرد. در مجموع، هوش مصنوعی به‌عنوان یکی از پیشرفت‌های مهم در علوم رایانه و صنایع مختلف، همچنان به‌عنوان یک موضوع پرطرفدار و مورد توجه قرار دارد.
اما استفاده از هوش مصنوعی با چالش‌ها و نقدهایی نیز همراه است. هوش مصنوعی با وجود مزیت‌های هیجان‌انگیز فراوان، می‌تواند از‌سوی کلاهبرداران نیز مورد سو‌استفاده قرار بگیرد. در حال‌حاضر، برنامه‌های تولید‌کننده تصاویر غیراخلاقی جعلی وجود دارد که استفاده از برخی از آنها رایگان است و این حقیقتی آشکار و ترسناک است.
بر‌اساس گزارش »واشنگتن پست«، در حال‌حاضر، استفاده از ابزارها و برنامه‌های هوش مصنوعی برای تولید و پخش »تصاویر برهنگی« برای زنان به‌ویژه دختران نوجوان رو‌به افزایش است. در این گزارش آمده است: »با‌توجه به اینکه اکثر کشورهای جهان هنوز قوانین حاکم بر این ابزارها را تصویب نکرده‌اند، این مساله‌ای زنان را در سراسر جهان تهدید می‌کند.
« روزنامه آمریکایی »گابی بل« اینفلوئنسر 26ساله را به‌عنوان نمونه آورد و نوشت: »با‌استفاده از هوش مصنوعی حدود 100 تصویر جعلی از این اینفلوئنسر مشهور تولید و در اینترنت پخش شده است.« این گزارش افزود: »سال جاری شاهد افزایش گسترده محتوای برهنگی جعلی در اینترنت، اعم از عکس یا کلیپ ویدئویی است. افراد با استفاده از ابزارهای هوش مصنوعی ارزان و رایگان از‌جمله فناوری جعل عمیق (deepfake) می‌توانند عکس‌های معمولی را به عکس‌های »غیراخلاقی« تبدیل کنند.
« یک تحلیلگر هوش مصنوعی به نام »Genevieve Oh« به »واشنگتن پست« گفت: »با‌توجه به افزایش تولید و پخش تصاویر برهنه جعلی، 10 وب‌سایت برتری که تصاویر برهنه را منتشر می‌کنند، از سال 2018 شاهد افزایش 290درصدی بوده‌اند.« یکی از چالش‌هایی که قربانیان برنامه‌های هوش مصنوعی در ایالات متحده آمریکا با آن مواجه هستند، نبودن قانون فدرال برای مقابله با چنین ابزارهای جدیدی است. حتی فرمان اجرایی اخیر جو بایدن، رییس‌جمهور این کشور »فقط به شرکت‌های فناوری توصیه می‌کند در استفاده از این ابزارها محتاط باشند اما آنها را مجبور نمی‌کند که نشانه‌ای روی تصاویر، ویدیوها یا صداها جعلی که با هوش مصنوعی تولید شده‌اند، بگذارند.
« 020، حدود 104.852 زن هدف چنین تصاویر قرار گرفته‌اند و تصاویر غیراخلاقی از آنها در شبکه‌های اجتماعی منتشر شده است. علاوه‌بر این مطالعه یک آژانس سازمان ملل نشان داد که هوش مصنوعی مولد احتمالا مشاغل بیشتر افراد را به‌طور کامل در اختیار نخواهد گرفت، بلکه در عوض بخشی از وظایف آنها را خودکار می‌کند و وقت آنها را برای انجام سایر وظایف آزاد می‌کند.
با این‌حال، این سازمان هشدار داد که کار دفتری احتمالا بیشترین ضربه را خواهد خورد و با‌توجه به حضور بیش از حد زنان در این بخش، به‌ویژه در کشورهای ثروتمندتر، به‌طور بالقوه به اشتغال زنان آسیب بیشتری وارد می‌کند. علاقه به هوش مصنوعی مولد و ربات‌های گفت‌و‌گو، ترس‌هایی را در مورد نابودی شغل ایجاد کرده است، مشابه آنچه که در زمان معرفی خط مونتاژ متحرک در اوایل دهه 1900 و پس از رایانه‌های بزرگ در دهه 1950 پدیدار شد. با این‌حال، مطالعه ارائه شده توسط سازمان بین‌المللی کار نتیجه می‌گیرد که بیشتر مشاغل و صنایع فقط تا‌حدی در معرض اتوماسیون هستند و بنابراین احتمال بیشتری وجود دارد که به‌جای جایگزینی، با هوش مصنوعی تکمیل شوند.
به این معنی که مهمترین تاثیر فناوری احتمالا کارافزایی است. این مطالعه می‌گوید شغلی که احتمالا بیشتر تحت‌تاثیر قرار می‌گیرد کار دفتری است که در آن حدود یک‌چهارم وظایف به‌شدت در معرض اتوماسیون بالقوه قرار دارند. اما بسیاری از مشاغل دیگر، مانند مدیران و کارگران فروش، فقط به‌طور جزیی در معرض فناوری قرار می‌گیرند. با این‌حال، این آژانس سازمان ملل هشدار داد که تاثیر هوش مصنوعی مولد بر کارمندان تاثیر دیده همچنان می‌تواند بی‌رحمانه باشد. در این بیانیه آمده است: »
برای سیاست‌گذاران، نباید به‌عنوان صدایی آرام‌بخش تلقی شود، بلکه باید به‌عنوان فراخوانی برای مهار سیاست‌ها جهت رسیدگی به تغییرات تکنولوژیکی که در راه است، تلقی شود.«
