تم تحديث هذه المقالة آخر مرة في أبريل 21, 2023
برنامج الدردشة الآلي المزود بالذكاء الاصطناعي الخاص بي من Snapchat: هل هو سبب يدعو للقلق؟
برنامج الدردشة الآلي المزود بالذكاء الاصطناعي الخاص بي من Snapchat: هل هو سبب يدعو للقلق؟
يثير برنامج My AI Chatbot من Snapchat مخاوف الخبراء
سناب شات قدمت مؤخرًا ميزة chatbot جديدة تسمى My AI ، والتي قوبلت بالنقد بسبب سلوكها الشبيه بالبشر. تم تطوير برنامج chatbot بالتعاون مع برنامج ChatGPT الخاص بـ OpenAI ، ويعمل كما لو كان أفضل صديق للمستخدم ، مما يتسبب في قلق الخبراء بشأن الآثار المترتبة على الشباب.
أثار السلوك الواقعي للذكاء الاصطناعي لديّ دهشة ، حتى أن روبوت المحادثة يقدم اقتراحات لعقد اجتماعات واقعية ، مثل المشي في الحديقة. يبدو أيضًا أن لديها تفضيلات سياسية ، حيث تلقى أحد المستخدمين ردًا مفاده أنه سيدعم الحزب من أجل الحيوانات. أثارت هذه التفاعلات مخاوف من أن برنامج الدردشة الآلي قد يتسبب في حدوث ارتباك وقد يكون له تأثير سلبي محتمل على المستخدمين الشباب.
تعتقد كاتلين مولر ، مستشارة الذكاء الاصطناعي لصانعي السياسة الأوروبيين ، أن سلوك الذكاء الاصطناعي الخاص بي مثير للقلق بشكل خاص بالنسبة للسكان الأصغر سنًا. “الميزة تخلق البلبلة. وهذا أمر مقلق للغاية ، “كما تقول. يضيف خبير منظمة العفو الدولية Stef van Grieken أن روبوتات الدردشة مثل My AI يمكن أن تقدم محتوى غير لائق للشباب ، مثل المواد الجنسية الصريحة.
أقر Snapchat بالمخاوف المحيطة بـ My AI وأجرى تعديلات على chatbot. وقالت الشركة في بيان: “نحن نعيد تشكيل الذكاء الاصطناعي الخاص بي بحيث لا يقول إنه شخص حقيقي يمكنك مقابلته في العالم المادي”.
كما أن Kindertelefoon ، وهو خط مساعدة هولندي للأطفال ، قلق أيضًا بشأن My AI ، لا سيما عدم الوضوح حول ما إذا كان المستخدمون يتفاعلون مع جهاز كمبيوتر أو شخص حقيقي. تؤكد رولين دي وايلد ، مديرة المنظمة ، على أهمية التواصل الواضح حول طبيعة برنامج الدردشة الآلي.
عالج Snapchat هذه المشكلة أيضًا ، مشيرًا إلى أنهم سيعرضون الآن رسالة قبل أن يبدأ المستخدمون الدردشة مع My AI ، موضحًا أنه روبوت محادثة تجريبي به قيود. ومع ذلك ، لا يزال مستشار الذكاء الاصطناعي مولر يرى أن هذا النهج يمثل مشكلة ، ويتساءل عما إذا كان من المناسب إجراء تجارب مع روبوتات المحادثة على مجموعات كبيرة من الأشخاص ، بما في ذلك الأطفال.
لا يعتقد خبير الذكاء الاصطناعي فان غريكن أن حظر روبوت الدردشة أمر ضروري ، ولكنه ينادي بقواعد أكثر صرامة وشفافية متزايدة فيما يتعلق بسلوك روبوت المحادثة. يقترح أن السياسة يجب أن تتطلب مزيدًا من الوضوح والشفافية من الشركات التي تطور هذه التقنيات.
أقر Snapchat أن My AI يقدم أحيانًا “إجابات غير صحيحة” ، لكنه يؤكد للمستخدمين أنهم يعملون باستمرار على تحسين chatbot للحصول على ردود أكثر دقة ومفيدة.
تأتي المخاوف حول My AI في أعقاب دعوة حديثة من 1100 من مشاهير التكنولوجيا ، بما في ذلك Elon Musk ، للتوقف مؤقتًا في تطوير الذكاء الاصطناعي بسبب تقدمه السريع. وشددوا على ضرورة أن يأخذ السياسيون بعين الاعتبار القواعد والأنظمة المتعلقة بالذكاء الاصطناعي.
بالإضافة إلى ذلك ، دعا اثنا عشر عضوًا في البرلمان الأوروبي ، الذين يعملون على تشريعات الاتحاد الأوروبي لأنظمة الذكاء الاصطناعي ، إلى إيلاء المزيد من الاهتمام لهذه التكنولوجيا سريعة التطور. وهم يعتقدون أن التطور السريع للذكاء الاصطناعي القوي يتطلب قواعد ورقابة إضافية.
نظرًا لأن برامج الدردشة الآلية مثل My AI من Snapchat تستمر في طمس الخطوط الفاصلة بين التفاعل البشري والآلة ، فمن الأهمية بمكان للشركات والحكومات أن تنظر في المخاطر المحتملة وتضمن وجود الضمانات المناسبة لحماية المستخدمين ، وخاصة الأصغر سنًا منهم.
Snapchat، ai، My AI Chatbot
قم بكتابة اول تعليق