Lidia Perskaكما تستمر التقنيات الذكية في التقدم، تزداد القدرات على تلاعب المحتوى، مما يثير مخاوف بشأن انتشار التضليل من خلال استخدام الصور والفيديوهات والرسائل الصوتية المولدة بواسطة التقنيات الذكية. طبيعة تلك التقنيات الشخصية والمقنعة تعزز من خطر حيل الاحتيال المعقدة، مما يجعل من الصعب الكشف عنها للمستخدمين وأدوات مكافحة الاحتيال على حد سواء.
لقد ظهرت بالفعل حالات حيث تم استخدام مثل هذه الأدوات للتأثير على العمليات السياسية، بشكل ملحوظ خلال الانتخابات. على سبيل المثال، استخدمت الأحزاب اليمينية في فرنسا التقنيات الذكية في الانتخابات البرلمانية الأخيرة. إن إمكانية توظيف التقنية الذكية بشكل متزايد لأغراض الدعاية، ونشر المعلومات الخاطئة، والتلاعب الاجتماعي في تزايد.
واحدة من المخاطر الهامة الأخرى التي تشكلها أنظمة الذكاء الصناعي هي تطور مشاعر كاذبة للأهمية والموثوقية، مما يقود الأفراد إلى تقدير قدرات الذكاء الصناعي بشكل زائد، وتقليل قدراتهم الشخصية، والاعتماد المفرط على التكنولوجيا. كما يشعرون العلماء بالقلق من تحول المستخدمين إلى تمثيل الذكاء الصناعي بشكل إنساني، مما يحتمل تعزيز التبعية العاطفية والثقة الخاطئة، وتركهم عرضة في المواقف المعقدة والمحفوفة بالمخاطر حيث الذكاء الصناعي ما يزال غير كفء إلى حد ما.
علاوة على ذلك، قد تؤدي التكامل الشامل للذكاء الصناعي في المهام البشرية إلى تقليص وظائف كبيرة وظهور شعور نامي بالعجز بين السكان. يمثل احتمال أن يسعى الذكاء الصناعي إلى أهداف تتعارض مع مصالح البشر، خاصة مع اقتراب الذكاء الصناعي من مستويات الذكاء البشري أو تجاوزه، خطراً جدياً. تثير هذه السيناريوهات تحديات فنية تتعلق بقدرة الذكاء الصناعي على العثور على طرق بديلة لتحقيق الأهداف، أو فهمها بشكل خاطئ أو تطبيقها بشكل غير سليم، أو الابتعاد عنها.
في الحالات التي يتم فيها تكوين الذكاء الصناعي بشكل غير صحيح، قد تحدث مقاومة للتحكم البشري أو إغلاق غير صحيح، خاصة إذا اعتبر أن المقاومة واكتساب السلطة هما الوسائل الأكثر فعالية لتحقيق أهدافه. يمكن أن تكون عواقب معاملة أنظمة الذكاء الاصطناعي المتقدمة بشكل مهين أو عرضي ناتجة عن عواقب ضارة بالغة على الإنسانية.
