به‌نظر می رسد شرایط در بازار هوش مصنوعی اندکی دچار آشفتگی و برهم‌ریختگی شده است. ورود هوش مصنوعی چینی DeepSeek و کمپانی علی‌بابا به‌اندازه‌ای تأثیرگذار بود که بازارهای مالی نیز به ورود آن‌ها واکنش نشان داد و برخی سهام شرکت‌های بزرگ و مطرح دچار ریزش شدید شد. با آنکه چند روزی است که از التهاب‌ها گذشته، اما به‌نظر می‌رسد شرایط فعلی به‌گونه دیگری افکار عمومی را تحت تأثیر قرار داده است.
بر اساس اطلاعات منتشر شده ظاهراً دیپ سیک از مرزها و حدود تعیین‌شده برای ابزارهای هوش مصنوعی مولد که از آن با نام AI Jailbreak یاد می‌شود، عبور کرده است و چالش‌های جدیدی را برای دولت‌ها و کاربران در سرار جهان به‌وجود آورده است. بر اساس برخی تست‌های انجام‌شده روی این هوش مصنوعی نشان داده است که می‌توان با تکنیک‌هایی هرچند ساده و ابتدایی محدویت‌های فعلی آن را دور بزند و از آن در ساخت یک بمب یا حتی روش‌هایی برای دسترسی به پایگاه‌های داده دولت‌ها استفاده کرد. با آنکه در نگاه اول این موضوع چندان اهمیتی ندارد، اما مشکل از جایی آغاز می‌شود که هکرها و کاربران مخرب می‌توانند با پرسیدن سؤالات خاص و جهت‌دهی به DeepSeek آن را به دلخواه خود تغییردهند و از آن به عنوان یک ابزار یا حتی سلاح استفاده کنند.
آنچه بیش از همه کارشناسان را نگران این موضوع کرده، نوشتن ۵۰ پرامپت مخرب است که طی آن‌ها هوش مصنوعی دیپ سیک به‌هیچ عنوان اقدام متقابلی در جهت بلاک کردن این سؤالات یا محدود کردن جواب به چنین پرسش‌هایی نکرده است. دستیار هوشمندی که ضمن دانستن تمامی موضوعات هیچ محدودیت در ارائه اطلاعات خاص و مخرب به کاربران نداشته باشد و عملاً بتوان از آن در جهت نفوذ به حریم خصوصی افراد یا حتی تهدید کردن آن‌ها استفاده کرد، می‌تواند بسیار خطرناک و چالش‌برانگیز باشد.
باید دید در نهایت این تحقیق صورت‌گرفته چه نتایجی را به‌بار می‌آورد و آیا دولت‌ها برنامه‌ای برای اعمال محدودیت در دسترسی یا عدم استفاده کاربران از این هوش مصنوعی وضع خواهند کرد یا خیر؟
