مرسيديث ويتاكر، رئيسة تطبيق سيجنال، أطلقت تحذيرًا شديد اللهجة خلال كلمتها في مؤتمر SXSW الذي انعقد في أوستن، تكساس، حول ما يسمى بـ الذكاء الاصطناعي الوكيلي (Agentic AI)، معتبرةً إياه تهديدًا مباشرًا لـ خصوصية المستخدم وأمنه الرقمي.
ما هو الذكاء الاصطناعي الوكيلي؟
بحسب ويتاكر، يُسوّق هذا النوع من الذكاء الاصطناعي كأداة لتحسين حياة المستخدمين عبر أداء المهام تلقائيًا بالنيابة عنهم، مثل:
البحث عن الحفلات الموسيقية،
حجز التذاكر،
إضافة الحدث إلى التقويم،
إرسال رسالة لأصدقائك.
لكنها وصفت هذا النموذج من الحوسبة بـ وضع دماغك في وعاء ، في إشارة ساخرة إلى حجم التحكم الذي تمنحه هذه التقنية للأنظمة الذكية.
مخاوف تتعلق بالأمان والخصوصية
وأوضحت ويتاكر أن الوكيل الذكي سيحتاج إلى صلاحيات واسعة جدًا تشمل:
الوصول إلى المتصفح،
استخدام بطاقة الدفع،
التفاعل مع التقويم الشخصي،
إرسال الرسائل من خلال تطبيقات التواصل.
وقالت:
سيحتاج هذا النظام لصلاحيات قريبة من الجذر Root Access، وسيتعامل مع كل هذه البيانات غالبًا بشكل غير مشفر، نظرًا لعدم وجود نموذج حالي يتيح المعالجة الآمنة والمشفرة لهذا النوع من المعلومات.
وتابعت:
إذا كان النظام مدعومًا بنموذج ذكاء اصطناعي قوي، فمن شبه المستحيل أن تتم المعالجة على الجهاز ذاته — بل تُرسل البيانات إلى خادم سحابي خارجي ليتم تحليلها، ثم تعاد النتائج.
وهنا تكمن الخطورة، بحسب قولها، حيث يتم دمج البيانات الحساسة من تطبيقات متعددة في مكان واحد، مما يهدد بكسر الحاجز الفاصل بين طبقة التطبيقات وطبقة نظام التشغيل.
دمج الذكاء الاصطناعي في تطبيقات الخصوصية خطر كبير
ووجهت ويتاكر تحذيرًا صريحًا بأنه في حال دمج هذه التقنية مع تطبيقات تراعي الخصوصية مثل Signal، فإن ذلك سيقوض جوهر الحماية التي تقدمها، لأن الذكاء الاصطناعي سيحتاج:
قراءة محتوى الرسائل،
إرسال رسائل جديدة،
تلخيص المحادثات.
وبالتالي، سيكون هناك خرق واضح لخصوصية المستخدم.
الذكاء الاصطناعي المبني على المراقبة
واختتمت ويتاكر حديثها بالتأكيد على أن صناعة الذكاء الاصطناعي ككل قد نشأت من نموذج على جمع البيانات بشكل واسع، حيث يُفترض أن كلما زادت البيانات، تحسن أداء الذكاء الاصطناعي.
لكنها ترى أن هذا المبدأ ذاته يؤدي إلى تضحية متزايدة بالخصوصية من أجل وهم الحصول على خادم سحري يُدير حياتك.
