باحث بارز في مجال السلامة التقنية يستقيل محذرًا من مخاطر عالمية – مشاهير

استقال باحث بارز في مجال السلامة التقنية بشركة أنثروبيك، المتخصصة في الذكاء الاصطناعي، محذرًا من خطر جسيم يواجه العالم نتيجة إساءة استخدام الحواسيب المتطورة، حيث نشر مرينانك شارما، المتخصص في سلامة الذكاء الاصطناعي، رسالة استقالته عبر وسائل التواصل الاجتماعي، مشيرًا إلى أن “العالم في خطر” بسبب المخاطر المرتبطة بتطورات الذكاء الاصطناعي.

وفقًا لصحيفة “ديلى ميل” البريطانية، تعمل أنثروبيك على تطوير أنظمة ذكاء اصطناعي متقدمة تشمل برامج الدردشة الآلية وأدوات توليد النصوص، مثل برنامج كلود الشهير، ومع ذلك، ذكر شارما في رسالته أنه والشركة تعرضا لضغوط للتخلي عن قيمهما من أجل التركيز على نمو الذكاء الاصطناعي.

طبيعة عمل شارما وسبب شعوره بالخطر

تتضمن وظيفة شارما في أنثروبيك، التي يُقدر راتبه فيها بأكثر من 200 ألف دولار، قيادة فريق متخصص في “سلامة الذكاء الاصطناعي”، مما يعني البحث عن سبل لضمان عدم تسبب الذكاء الاصطناعي في أي ضرر للبشر المستخدمين له، حيث ساهم في تطوير آليات دفاعية تمنع استخدام الذكاء الاصطناعي من قبل جهات خبيثة في تصنيع مواد خطيرة مثل الأسلحة البيولوجية، كما درس مشكلات مثل “التملق المفرط للذكاء الاصطناعي”، حيث يمكن أن تؤدي برامج الدردشة الآلية إلى تملق المستخدمين بطرق تؤثر على إدراكهم للواقع.

كتب شارما في رسالته: “يبدو أننا نقترب من نقطة حرجة، حيث يجب أن تنمو حكمتنا بالتوازي مع قدرتنا على التأثير في العالم، وإلا سنواجه العواقب”

جاءت استقالة شارما بشكل فوري، حيث تنحى عن منصبه بعد ما يقرب من ثلاث سنوات، وكان درس في كل من جامعتي أكسفورد وكامبريدج، وحصل على درجة الماجستير في الهندسة والتعلم الآلي.

ومع ذلك، أشار خبير سلامة الذكاء الاصطناعي إلى أن مجموعة من المشكلات العالمية الكبرى، بما في ذلك الحروب والأوبئة وتغير المناخ والنمو غير المنضبط للذكاء الاصطناعي، كانت عوامل مؤثرة في قراره بالاستقالة.

أعرب شارما عن مخاوفه من أن برامج الذكاء الاصطناعي القوية تُسهّل على العلماء ابتكار أسلحة بيولوجية قادرة على نشر الأمراض عالميًا، وبدون ضوابط مناسبة لاستخدام الذكاء الاصطناعي، يمكن لهذه الأدوات المتقدمة الإجابة بسرعة على أسئلة بيولوجية معقدة، بل واقتراح تعديلات جينية تجعل الفيروسات أكثر عدوى أو فتكًا.

كما أشار شارما إلى قدرة الذكاء الاصطناعي على التلاعب بعقول الناس، وتزويد الجمهور بإجابات مُصممة خصيصًا لوجهات نظر كل فرد، مما يُشوه قراراتهم ويُقوض التفكير المستقل.

تفاصيل عن شركة أنثروبيك

تأسست أنثروبيك عام 2021 على يد سبعة موظفين سابقين في شركة أوبن إيه آي، التي ابتكرت برنامج ChatGPT، حيث ضمت هذه المجموعة الشقيقين داريو أمودي، الرئيس التنفيذي، ودانييلا أمودي، رئيسة أنثروبيك، اللذين غادرا الشركة بسبب مخاوفهما من عدم تركيز أوبن إيه آي على السلامة، ورغبتهما في إنشاء أنظمة ذكاء اصطناعي موثوقة تُعطي الأولوية لرفاهية الإنسان.

تتمثل منتجات الشركة الرئيسية في عائلة نماذج الذكاء الاصطناعي “كلود”، والتي تشمل مساعدين آليين للبرمجة وغيرها من المهام الشخصية والمهنية، وتُشير التقارير إلى أن أنثروبيك تستحوذ على ما يقارب 40% من سوق الذكاء الاصطناعي فيما يتعلق بالمساعدين الآليين، بإيرادات سنوية تُقدّر بنحو 9 مليارات دولار.