OpenAI تكشف عن أداة استنساخ الصوت
كشفت شركة OpenAI النقاب عن أداة لاستنساخ الصوت الجمعة، لكن الشركة تعتزم ممارسة رقابة مشددة على استخدامها حتى يتم وضع ضمانات لمنع انتشار التزييف الصوتي الخادع.
الأداة، المعروفة باسم "Voice Engine"، قادرة على تكرار كلام شخص ما بناءً على عينة صوتية مدتها 15 ثانية فقط، كما هو موضح في منشور مدونة بواسطة OpenAI الذي شارك نتائج اختبار صغير الحجم.
وبالنظر إلى المخاطر المحتملة المرتبطة بإنتاج خطاب يحاكي أصوات الأفراد، خاصة خلال عام الانتخابات، أعربت الشركة التي يقع مقرها في سان فرانسيسكو عن وعيها بالأمر. ذكرت OpenAI أنها تعمل بنشاط مع مختلف الشركاء من الحكومة ووسائل الإعلام والترفيه والتعليم والمجتمع المدني والقطاعات الأخرى لدمج ملاحظاتهم أثناء عملية التطوير.
يعبر الباحثون الذين يدرسون المعلومات المضللة عن مخاوفهم بشأن سوء استخدام التطبيقات التي تعمل بالذكاء الاصطناعي على نطاق واسع، بما في ذلك أدوات استنساخ الصوت، وهي غير مكلفة وسهلة الاستخدام ويصعب تتبعها. وتشكل هذه الأدوات تهديدًا كبيرًا، خاصة خلال الانتخابات المحورية.
وفي ضوء هذه المخاوف، أكدت OpenAI أنها تتبنى نهجًا حذرًا ومستنيرًا للإصدار الأوسع للأداة نظرًا لاحتمال إساءة استخدام الصوت الاصطناعي.
يأتي هذا الكشف الحذر في أعقاب حادثة وقعت قبل بضعة أشهر، حيث اعترف مستشار سياسي مرتبط بمرشح ديمقراطي يتنافس ضد حملة جو بايدن الرئاسية بتنظيم مكالمة آلية تنتحل شخصية الزعيم الأميركي . وظهرت المكالمة الآلية، التي تم إنشاؤها باستخدام تقنية الذكاء الاصطناعي، بصوت يشبه صوت بايدن، وحث الناس على عدم التصويت في الانتخابات التمهيدية في نيو هامبشاير.
أثار الحادث قلق الخبراء الذين يخشون انتشار المعلومات المضللة العميقة المدعومة بالذكاء الاصطناعي خلال السباق الرئاسي الأميركي لعام 2024 والانتخابات المهمة الأخرى في جميع أنحاء العالم هذا العام.
وذكرت OpenAI أن الشركاء المشاركين في اختبار أداة Voice Engine قد وافقوا على الالتزام بقواعد معينة، بما في ذلك الحصول على موافقة صريحة ومستنيرة من أي فرد يتم نسخ صوته باستخدام الأداة. بالإضافة إلى ذلك، من الضروري الإشارة بوضوح إلى الجماهير عندما يستمعون إلى الأصوات التي يولدها الذكاء الاصطناعي، وفقًا للشركة.
وأوضحت OpenAI أيضًا أنها نفذت تدابير السلامة، مثل العلامة المائية لتتبع أصل أي صوت تم إنشاؤه بواسطة Voice Engine، بالإضافة إلى المراقبة الاستباقية لاستخدامه.
