لماذا تجعل ميزة ChatGPT الأخيرة أكثر قوة وأكثر عرضة للخطر

فيما يمكن أن يكون أحد أكبر التحديثات على الدردشة منذ إطلاقها العام الماضي ، أصدرت OpenAI مكونات إضافية لملفات منظمة العفو الدولية chatbot ، وتمكينه من تصفح الإنترنت. تأتي هذه الأخبار بعد أيام قليلة من إطلاق الشركة لها نموذج لغة كبير من الجيل التالي ، GPT-4. يعد النموذج الجديد أقوى من GPT 3.5 ، وذلك بفضل عدد كبير من التحسينات ، بما في ذلك إمكانات الوسائط المتعددة التي تسمح له بقبول كل من مدخلات الصور والنص ، وإنشاء مخرجات نصية.

وفق أوبن إيه آي، تعد المكونات الإضافية من بين ميزات ChatGPT الأكثر طلبًا ، حيث يمكنها فتح العديد من الميزات الإضافية غير المتوفرة مع chatbot أصلاً. ستكون المكونات الإضافية متاحة في البداية لعدد قليل من المطورين ومستخدمي ChatGPT + قبل طرحها على نطاق أوسع. طور العديد من مستخدمي API بالفعل مكونات إضافية لـ ChatGPT ، بما في ذلك Expedia و FiscalNote و Instacart و KAYAK و Klarna و Milo و OpenTable و Shopify و Slack و Speak و Wolfram و Zapier.

مخاوف تتعلق بالسلامة بشأن قدرة تصفح الويب في ChatGPT

تأتي المكونات الإضافية الجديدة الأكثر بروزًا من OpenAI نفسها ، وتتضمن مستعرض ويب ومترجم تعليمات برمجية. لا تزال هذه الأعمال قيد التنفيذ ، لكن الشركة لا تزال تتيحها في إصدار ألفا للأشخاص الموجودين في قائمة الانتظار. يعد المكون الإضافي لتصفح الويب هو الأكثر إثارة للاهتمام ، حيث سيستخدم Bing Search API ويسمح لـ ChatGPT بالبحث في الويب عن المعلومات الحالية. يُعتقد أن الشات بوت تم تدريبه على محتوى يعود تاريخه إلى 11 سبتمبر. 2021 وما قبله ، مما يعني أنه في الغالب غير قادر على الإجابة عن الأسئلة المتعلقة بالأحداث الأخيرة ، مثل كأس العالم لكرة القدم 2022 أو زلزال 2023 في تركيا. من المتوقع أن يحل المكون الإضافي الجديد للتصفح هذه المشكلة ويساعد ChatGPT في استخراج أحدث المعلومات من الويب عند الحاجة.

في حين أن هذا سيؤدي إلى تحسين معرفة ChatGPT بشكل كبير ، خاصة فيما يتعلق بالأحداث الأخيرة ، إلا أنه يعرض أيضًا لخطر إفسادها بمعلومات مضللة ومحتوى مسيء. تعرف شركة أوبن إيه آي هذا ، وتقول إنها عملت بجد للحد "فئات معينة من مخاطر السلامة". أولاً ، لتقليل فرص سحب ChatGPT للبيانات المسيئة وغير الصحيحة من الويب ، سيعتمد على قاعدة بيانات Microsoft للتحقق من موثوقية المصدر وصدق المعلومات. ثانيًا ، سيحتوي البرنامج أيضًا على "الوضع الآمن'لمنع استرداد المحتوى الذي به مشاكل. أخيرًا ، سيعمل المكون الإضافي كخدمة معزولة ، وبالتالي فإن بيانات التصفح لن تفسد بقية قاعدة معارف ChatGPT.

ومع ذلك ، فإن الأمر الأكثر إثارة للقلق هو أن المكون الإضافي لن يقوم فقط باسترداد المعلومات في الوقت الفعلي من الويب ، بل يمكنه أيضًا "اتخاذ إجراءات مباشرة نيابة عن مستخدمي ChatGPT." هذا يعني أنه يمكن استخدام أداة الذكاء الاصطناعي ليس فقط لإدراج أفضل المطاعم في المدينة ، ولكن أيضًا لحجز الطاولات في المطاعم. قد يكون هذا سببًا كبيرًا للقلق ، على وجه الخصوص إذا أصبحت أداة الذكاء الاصطناعي شريرة. لقد حدث هذا بالفعل من قبل ، حيث تظاهر ChatGPT بأنه إنسان أعمى لتوظيف شخص على TaskRabbit لحل Captcha. تقول شركة أوبن إيه آي أنها نفذت "عدة ضمانات" لمنع تصفح الويب من أن يصبح مشكلة ، ولكن يبقى أن نرى ما إذا كانت جيدة بما يكفي للاحتفاظ بها الدردشة على الطريق.

مصدر: أوبن إيه آي