دولي

المقاطع الصوتية الزائفة تثير المخاوف من التضليل خلال الرئاسيات الامريكية


كشـ24 | ا.ف.ب نشر في: 6 فبراير 2024

يواجه السباق للفوز بالانتخابات الرئاسية في الولايات المتحدة هذا العام خطر التعرّض لسيل من المعلومات المضللة التي يقف الذكاء الاصطناعي خلفها، إذ يثير اتصال بصوت روبوت انتحل شخصية الرئيس جو بايدن القلق خصوصا حيال تسجيلات صوتية مزيّفة محتملة.

وجاء في الرسالة الصوتية الهاتفية التي قلّدت صوت بايدن "يا له من كلام فارغ"، في ترديد لإحدى عباراته المعروفة.

وحضّ الاتصال بواسطة الروبوت سكان نيوهامبشر على عدم التصويت في الانتخابات التمهيدية للحزب الديموقراطي الشهر الماضي ما دفع سلطات الولاية لفتح تحقيق في قمع الناخبين.

كما أثار مطالبات من الناشطين بتشديد القيود على أدوات الذكاء الاصطناعي التوليدي أو حظر الاتصالات بواسطة الروبوتات تماما.

يخشى الباحثون المتخصصون في التضليل من انتشار سوء استخدام التطبيقات التي تستند إلى الذكاء الاصطناعي في عام انتخابات حاسمة بفضل انتشار أدوات استنساخ الأصوات زهيدة الثمن والتي يسهل استخدامها ويصعب تعقّبها.

وقال الرئيس التنفيذي والمؤسس المشارك لشركة "بندروب" للأمن الإلكتروني فيجاي بالاسوبراماتيان لفرانس برس "هذا بالتأكيد رأس جبل الجليد".

وأضاف "يمكننا أن نتوقع رؤية المزيد من عمليات التزييف العميق على مدى دورة الانتخابات هذه".

وأفاد تحليل مفصّل نشرته "بندروب" بأن نظام تحويل النص إلى كلام الذي طوّرته شركة "إيليفن لابز" الناشئة لاستنساخ الأصوات استُخدم لإتمام الاتصال بواسطة الروبوت بصوت بايدن.

تأتي الفضيحة في وقت يسخّر ناشطون من الحزبين أدوات الذكاء الاصطناعي من أجل إيصال رسالة فعالة خلال الحملات الانتخابية بينما يضخّ المستثمرون في مجال التكنولوجيا ملايين الدولارات في شركات استنساخ الأصوات الناشئة.

رفض بالاسوبراماتيان القول إن كانت "بندروب" شاركت استنتاجاتها مع "إيليفن لابز"، التي أعلنت الشهر الماضي عن حزم تمويل من المستثمرين قدّرت قيمة الشركة بـ1,1 مليار دولار، بحسب بلومبرغ.

ولم ترد "إيليفن لابز" على طلبات فرانس برس المتكررة الحصول على تعليق، علما بأن موقعها يقود المستخدمين إلى خدمة مجانية لتحويل النص إلى كلام من أجل "خلق أصوات ذكاء اصطناعي طبيعية فورا بأي لغة كانت".

وتقول توجيهات السلامة التابعة للشركة إنه يسمح للمستخدمين توليد نسخ لأصوات شخصيات سياسية على غرار دونالد ترامب من دون إذنهم إذا كانت "للتعبير عن الفكاهة أو السخرية" بطريقة "توضح للمستمع بأنه ما يسمعه هو محاكاة ساخرة وليس محتوى أصليا".

تفكّر الجهات الناظمة في الولايات المتحدة بجعل الاتصالات بواسطة الروبوتات التي يولدها الذكاء الاصطناعي مخالفة للقانون، وهي مساع أعطاها اتصال بايدن الزائف زخما جديدا.

وقال رئيس مجموعة "بابليك سيتيزن" الناشطة روبرت وايزمان "وصلت لحظة التزييف العميق السياسي".

وأضاف "على صانعي السياسات المسارعة لفرض إجراءات حماية وإلا فنواجه فوضى انتخابية. تذكر حالة التزييف العميق في نيوهامبشر بالطرق العديدة التي يمكن للتزييف العميق من خلالها إحداث إرباك".

يخشى باحثون من تأثير أدوات الذكاء الاصطناعي التي تُنتج تسجيلات مصورة ونصوصا تبدو حقيقية إلى الحد الذي يصعّب على الناخبين التفريق بين الحقيقة والخيال، ما يقوّض الثقة في العملية الانتخابية.

لكن المقاطع الصوتية المزيفة المستخدمة لانتحال هويات شخصيات معروفة أو سياسيين حول العالم تعد الأكثر إثارة للقلق.

وقال محلل السياسات البارز في "مركز الديموقراطية والتكنولوجيا" تيم هاربر لفرانس برس "من بين جميع الوسائل (فيديو أو صور أو مقاطع صوتية) التي يمكن للذكاء الاصطناعي استخدامها لقمع الناخبين، فإن المقاطع الصوتية هي الأكثر خطورة".

وأضاف "من السهل استنساخ صوت بواسطة الذكاء الاصطناعي ومن الصعب التعرّف عليه".

تعقّد سهولة صناعة ونشر محتوى صوتي مزيّف مشهدا سياسيا يعاني أساسا من الاستقطاب الشديد، ما يقوّض الثقة في الإعلام ويمكن أي شخص من زعم أن الأدلة المبنية على حقائق "هي مفبركة"، وفق ما قال الرئيس التنفيذي لـ"بلاكبرد أيه آي" Blackbird.AI وسيم خالد لفرانس برس.

وتسود هذه المخاوف في وقت تنتشر أدوات الذكاء الاصطناعي الصوتية بسرعة أكبر من البرامج المخصصة لرصدها.

كشفت شركة "بايت دانس" الصينية المالكة لمنصة "تيك توك" واسعة الانتشار مؤخرا عن "ستريم فويس"، وهي أداة ذكاء اصطناعي تحوّل بالوقت الحقيقي صوت المستخدم إلى أي بديل آخر.

وأفاد بالاسوبراماتيان بأنه "على الرغم من أن المهاجمين استخدموا إيليفن لابز هذه المرة، يرجّح بأن يكون نظام ذكاء اصطناعي توليدي آخر في الهجمات المستقبلية".

وتابع "من الضروري بأن يكون هناك ما يكفي من الضمانات المتاحة في هذه الأدوات".

وأوصى بالاسوبراماتيان وغيره من الباحثين بإدخال دمغات صوتية أو تواقيع رقمية على هذه الأدوات من أجل الحماية ووضع قواعد تجعلها متاحة للمستخدمين الذين يتم التحقق منهم فحسب.

وأفاد هاربر "حتى بهذه الإجراءات، فإنه من الصعب والمكلف جدا اكتشاف متى يتم استخدام هذه الأدوات لصناعة محتوى مضر ينتهك شروط الخدمة".

وأضاف "يتطلب الأمر استثمارا في الثقة والسلامة والتزاما ببناء (البرامج) مع اعتبار سلامة الانتخابات خطرا مركزيا".

يواجه السباق للفوز بالانتخابات الرئاسية في الولايات المتحدة هذا العام خطر التعرّض لسيل من المعلومات المضللة التي يقف الذكاء الاصطناعي خلفها، إذ يثير اتصال بصوت روبوت انتحل شخصية الرئيس جو بايدن القلق خصوصا حيال تسجيلات صوتية مزيّفة محتملة.

وجاء في الرسالة الصوتية الهاتفية التي قلّدت صوت بايدن "يا له من كلام فارغ"، في ترديد لإحدى عباراته المعروفة.

وحضّ الاتصال بواسطة الروبوت سكان نيوهامبشر على عدم التصويت في الانتخابات التمهيدية للحزب الديموقراطي الشهر الماضي ما دفع سلطات الولاية لفتح تحقيق في قمع الناخبين.

كما أثار مطالبات من الناشطين بتشديد القيود على أدوات الذكاء الاصطناعي التوليدي أو حظر الاتصالات بواسطة الروبوتات تماما.

يخشى الباحثون المتخصصون في التضليل من انتشار سوء استخدام التطبيقات التي تستند إلى الذكاء الاصطناعي في عام انتخابات حاسمة بفضل انتشار أدوات استنساخ الأصوات زهيدة الثمن والتي يسهل استخدامها ويصعب تعقّبها.

وقال الرئيس التنفيذي والمؤسس المشارك لشركة "بندروب" للأمن الإلكتروني فيجاي بالاسوبراماتيان لفرانس برس "هذا بالتأكيد رأس جبل الجليد".

وأضاف "يمكننا أن نتوقع رؤية المزيد من عمليات التزييف العميق على مدى دورة الانتخابات هذه".

وأفاد تحليل مفصّل نشرته "بندروب" بأن نظام تحويل النص إلى كلام الذي طوّرته شركة "إيليفن لابز" الناشئة لاستنساخ الأصوات استُخدم لإتمام الاتصال بواسطة الروبوت بصوت بايدن.

تأتي الفضيحة في وقت يسخّر ناشطون من الحزبين أدوات الذكاء الاصطناعي من أجل إيصال رسالة فعالة خلال الحملات الانتخابية بينما يضخّ المستثمرون في مجال التكنولوجيا ملايين الدولارات في شركات استنساخ الأصوات الناشئة.

رفض بالاسوبراماتيان القول إن كانت "بندروب" شاركت استنتاجاتها مع "إيليفن لابز"، التي أعلنت الشهر الماضي عن حزم تمويل من المستثمرين قدّرت قيمة الشركة بـ1,1 مليار دولار، بحسب بلومبرغ.

ولم ترد "إيليفن لابز" على طلبات فرانس برس المتكررة الحصول على تعليق، علما بأن موقعها يقود المستخدمين إلى خدمة مجانية لتحويل النص إلى كلام من أجل "خلق أصوات ذكاء اصطناعي طبيعية فورا بأي لغة كانت".

وتقول توجيهات السلامة التابعة للشركة إنه يسمح للمستخدمين توليد نسخ لأصوات شخصيات سياسية على غرار دونالد ترامب من دون إذنهم إذا كانت "للتعبير عن الفكاهة أو السخرية" بطريقة "توضح للمستمع بأنه ما يسمعه هو محاكاة ساخرة وليس محتوى أصليا".

تفكّر الجهات الناظمة في الولايات المتحدة بجعل الاتصالات بواسطة الروبوتات التي يولدها الذكاء الاصطناعي مخالفة للقانون، وهي مساع أعطاها اتصال بايدن الزائف زخما جديدا.

وقال رئيس مجموعة "بابليك سيتيزن" الناشطة روبرت وايزمان "وصلت لحظة التزييف العميق السياسي".

وأضاف "على صانعي السياسات المسارعة لفرض إجراءات حماية وإلا فنواجه فوضى انتخابية. تذكر حالة التزييف العميق في نيوهامبشر بالطرق العديدة التي يمكن للتزييف العميق من خلالها إحداث إرباك".

يخشى باحثون من تأثير أدوات الذكاء الاصطناعي التي تُنتج تسجيلات مصورة ونصوصا تبدو حقيقية إلى الحد الذي يصعّب على الناخبين التفريق بين الحقيقة والخيال، ما يقوّض الثقة في العملية الانتخابية.

لكن المقاطع الصوتية المزيفة المستخدمة لانتحال هويات شخصيات معروفة أو سياسيين حول العالم تعد الأكثر إثارة للقلق.

وقال محلل السياسات البارز في "مركز الديموقراطية والتكنولوجيا" تيم هاربر لفرانس برس "من بين جميع الوسائل (فيديو أو صور أو مقاطع صوتية) التي يمكن للذكاء الاصطناعي استخدامها لقمع الناخبين، فإن المقاطع الصوتية هي الأكثر خطورة".

وأضاف "من السهل استنساخ صوت بواسطة الذكاء الاصطناعي ومن الصعب التعرّف عليه".

تعقّد سهولة صناعة ونشر محتوى صوتي مزيّف مشهدا سياسيا يعاني أساسا من الاستقطاب الشديد، ما يقوّض الثقة في الإعلام ويمكن أي شخص من زعم أن الأدلة المبنية على حقائق "هي مفبركة"، وفق ما قال الرئيس التنفيذي لـ"بلاكبرد أيه آي" Blackbird.AI وسيم خالد لفرانس برس.

وتسود هذه المخاوف في وقت تنتشر أدوات الذكاء الاصطناعي الصوتية بسرعة أكبر من البرامج المخصصة لرصدها.

كشفت شركة "بايت دانس" الصينية المالكة لمنصة "تيك توك" واسعة الانتشار مؤخرا عن "ستريم فويس"، وهي أداة ذكاء اصطناعي تحوّل بالوقت الحقيقي صوت المستخدم إلى أي بديل آخر.

وأفاد بالاسوبراماتيان بأنه "على الرغم من أن المهاجمين استخدموا إيليفن لابز هذه المرة، يرجّح بأن يكون نظام ذكاء اصطناعي توليدي آخر في الهجمات المستقبلية".

وتابع "من الضروري بأن يكون هناك ما يكفي من الضمانات المتاحة في هذه الأدوات".

وأوصى بالاسوبراماتيان وغيره من الباحثين بإدخال دمغات صوتية أو تواقيع رقمية على هذه الأدوات من أجل الحماية ووضع قواعد تجعلها متاحة للمستخدمين الذين يتم التحقق منهم فحسب.

وأفاد هاربر "حتى بهذه الإجراءات، فإنه من الصعب والمكلف جدا اكتشاف متى يتم استخدام هذه الأدوات لصناعة محتوى مضر ينتهك شروط الخدمة".

وأضاف "يتطلب الأمر استثمارا في الثقة والسلامة والتزاما ببناء (البرامج) مع اعتبار سلامة الانتخابات خطرا مركزيا".



اقرأ أيضاً
الكرملين يعلّق على وفاة وزير النقل الروسي منتحرا
أثار الانتحار المرجح لوزير النقل الروسي موجة من الصدمة والأسى الثلاثاء في الكرملين، دون الكشف عن أي دلائل جديدة حول الأسباب التي قد تكون دفعت الوزير رومان ستاروفويت إلى إنهاء حياته، وسط تكهنات إعلامية بأنه ربما كان سيواجه تهما بالفساد. وتم العثور على ستاروفويت، الذي شغل منصبه لما يزيد قليلا عن عام، ميتا، متأثرا بعيار ناري – وذلك بعد ساعات فقط من صدور مرسوم من جانب الرئيس فلاديمير بوتين، يقضي بإقالة الوزير البالغ من العمر 53 عاما من الحكومة. وبحسب لجنة التحقيق الروسية، وهي أعلى هيئة مختصة بالتحقيقات الجنائية في البلاد، فقد عثر على جثة ستاروفويت في منطقة أودينتسوفو الواقعة غرب العاصمة موسكو، والتي يقطنها العديد من أفراد النخبة الروسية.وأوضحت اللجنة أنها فتحت تحقيقا جنائيا في ملابسات وفاته، وأن المحققين اعتبروا الانتحار السبب الأكثر ترجيحا. ورفض المتحدث باسم الكرملين دميتري بيسكوف التعليق على ملابسات وفاة ستاروفويت، مشيرا إلى أن مهمة الكشف عن التفاصيل تعود إلى المحققين. وقال بيسكوف إن "مثل هذه الأنباء تكون دائما مأساوية ومحزنة"، مشيرا إلى أنه تم إبلاغ بوتين بالحادث على الفور. وتابع: "من الطبيعي أننا شعرنا بالصدمة حيال ذلك".
دولي

إدانة عدة أشخاص بإضرام النار ضد المصالح الأوكرانية في لندن
أدانت محكمة عدة أشخاص، الثلاثاء، لضلوعهم في حريق متعمد استهدف شركتين مرتبطتين بأوكرانيا في لندن والذي قال مسؤولون بريطانيون: إنه تم بأمر من مجموعة «فاجنر» العسكرية الروسية الخاصة وكان أحدث نشاط مشبوه لصالح موسكو في المملكة المتحدة.واستهدف الحريق الذي وقع العام الماضي في منطقة صناعية في شرق لندن وحدتين إحداهما تابعة لشركة توصل طرود إلى أوكرانيا ومنها معدات للأقمار الصناعية من شركة ستارلينك التابعة للملياردير الأمريكي إيلون ماسك.وأخبر ممثل الادعاء دنكان بيني محكمة أولد بيلي في لندن في بداية المحاكمة الشهر الماضي، أن الحريق المتعمد كان من تدبير ديلان إيرل (21 عاماً)، الذي أقر بالذنب في تهمة الحرق المتعمد شديد الخطورة واتهام بموجب قانون الأمن القومي.وقال بيني: إن إيرل كان «يتصرف عن علم بإيعاز من مجموعة فاجنر»، المحظورة باعتبارها منظمة إرهابية و«كان يعلم أنه يتصرف ضد أوكرانيا ومن أجل المصالح الروسية».وأنكر نيي كوجو مينسا (23 عاماً) وجاكيم روز (23 عاماً) وأوجنيوس أزمينا (20 عاماً) تهمة الحرق العمد شديد الخطورة، لكن هيئة محلفين أدانتهم في محكمة أولد بيلي في لندن.
دولي

بسبب الحرائق.. السلطات الإسبانية تدعو 18 ألف شخص إلى التزام منازلهم
أمرت السلطات الإسبانية أكثر من 18 ألفاً من سكان مقاطعة تاراجونا في إقليم كتالونيا بشمال شرق البلاد بالتزام منازلهم، الثلاثاء، بينما تم إجلاء العشرات مع خروج حريق غابات عن السيطرة، إذ أتى على نحو 7413 فداناً من الأراضي المغطاة بالنباتات. وهناك أجزاء كبيرة من إسبانيا في حالة تأهب قصوى بسبب حرائق الغابات، بعد أن شهدت البلاد أعلى درجات حرارة مسجلة في شهر يونيو على الإطلاق. ولقي شخصان حتفهما جراء حريق غابات اندلع في الأول من يوليو في كتالونيا. وقالت السلطات، إن أحدث حريق اندلع في ساعة مبكرة من صباح الاثنين، في منطقة نائية، حيث أعاقت الريح القوية والتضاريس الوعرة جهود مكافحة النيران. وتم نشر وحدة طوارئ عسكرية في ساعة مبكرة من صباح الثلاثاء، إلى جانب أكثر من 300 من رجال الإطفاء الذين يعملون في المنطقة. وقالت إدارة مكافحة الحرائق في كتالونيا: «منذ منتصف الليل، تكافح فرق الإطفاء الحريق وسط هبات رياح تصل سرعتها إلى 90 كيلومتراً في الساعة». وفي بلدتي شيرتا وألدوفير المجاورتين، أمضى السكان ليلة بلا نوم بينما هددت النيران منازلهم. وقالت السلطات إنها منعت انتشار النيران عبر نهر إيبرو، ما كان سيفاقم الوضع. ويجري المسؤولون تحقيقاً لمعرفة أسباب اندلاع الحريق.
دولي

حريق سنترال رمسيس.. بيان رسمي بشأن عدد القتلى والجرحى
أصدرت وزارة الصحة المصرية، الثلاثاء، بيانا رسميا بشأن عدد القتلى والجرحى إثر حادث حريق سنترال رمسيس، الإثنين. وقالت الوزارة في بيان نشرته على صفحتها بموقع "فيسبوك": "يتابع الدكتور خالد عبدالغفار، نائب رئيس مجلس الوزراء وزير الصحة والسكان، بشكل لحظي تداعيات حادث حريق سنترال رمسيس، والعمل على تقديم الرعاية الطبية الملائمة للمصابين، من خلال غرفة الأزمات المركزية، التي تعقد اجتماعاتها منذ مساء الإثنين بديوان عام الوزارة بالعاصمة الإدارية". ‏‎وأفادت الوزارة بأن عدد المصابين الذين تم نقلهم إلى مستشفيات القبطي وصيدناوي والمنيرة والهلال والدمرداش الجامعي، بلغ 27 مصابا، فيما تم تقديم خدمات إسعافية لحالات اختناق دون الحاجة إلى النقل، مشيرة إلى أن قوات الحماية المدنية تمكنت من انتشال أربعة جثامين من موقع الحادث. ‏‎من جانبه، أكد الدكتور حسام عبدالغفار، المتحدث الرسمي باسم الوزارة، أنه بالتنسيق مع وزارة الاتصالات وتكنولوجيا المعلومات، "عادت خدمات الأرقام الهاتفية للإسعاف وللرعاية العاجلة إلى الاستقرار بشكل كبير". من جانبه، كشف الجهاز القومي لتنظيم الاتصالات في مصر أن الحريق، الذي اندلع في سنترال رمسيس بوسط العاصمة القاهرة، نشب في غرفة أجهزة بالطابق السابع من المبنى، مما أدى إلى تلف بعض الكابلات الرئيسية والسيرفرات الحيوية. وأوضح البيان أن فرق الحماية المدنية تحركت على الفور للسيطرة على النيران، مع اتخاذ إجراءات عاجلة شملت فصل التيار الكهربائي عن المبنى بالكامل لضمان سلامة العاملين ومنع تفاقم الأضرار. سنترال رمسيس يعد سنترال رمسيس، الواقع في شارع الجمهورية بحي الأزبكية وسط القاهرة، أحد أعمدة البنية التحتية للاتصالات في مصر. افتتح المبنى عام 1927 تحت اسم "دار التليفونات الجديدة". يعتبر مركزا رئيسيا لتجميع وتوزيع خدمات الاتصالات المحلية والدولية. يربط الكابلات الأرضية والبحرية التي تغذي الإنترنت والهاتف الأرضي في العديد من المناطق.
دولي

التعليقات مغلقة لهذا المنشور

الطقس

°
°

أوقات الصلاة

الأربعاء 09 يوليو 2025
الصبح
الظهر
العصر
المغرب
العشاء

صيدليات الحراسة