التوفيق بين مخاطر الذكاء الاصطناعي والفرص التي يوفرها: تقييم شامل للمستثمرين

408 صفحة، في عمودين: ما يكشفه نموذج S-1 لشركة «أنثروبيك»

ينكب المستثمرون على دراسة نشرة الاكتتاب S-1 الخاصة بشركة «أنثروبيك» (Anthropic) ترقباً لأكبر طرح عام أولي في التاريخ. والغرض من هذه الوثيقة هو الموازنة بين الفرص الاستثمارية والمخاطر المرتبطة بها. ومع ذلك، تشير التقارير الأولية إلى أن القراء يقضون معظم وقتهم في التركيز على أحد هذين الجانبين. فمن بين صفحاتها البالغ عددها 408 صفحة، لا يوجد قسم حظي بمساحة أكبر من تلك المخصصة للمخاطر. ويخاطر قراء نشرة S-1، وكذلك قراء معظم التعليقات المتعلقة بالذكاء الاصطناعي، بإهمال المهمة الأصعب والأكثر ضرورة في آن واحد: تقييم مخاطر وفرص الذكاء الاصطناعي معًا، بدلاً من النظر إلى كل منهما على حدة.

على الرغم من أن مجال الذكاء الاصطناعي اشتهر بالدراما والمناورات السياسية، فإن هذه الوثيقة ذات أهمية بالغة، فهي ليست مجرد منشور على مدونة أو مقال نظري. بل تُعد أساسًا لاتخاذ قرارات تبلغ قيمتها مليارات الدولارات. وهي التزام تنظيمي، تم إعداده بهدف تزويد المستثمرين بمعلومات جوهرية ودقيقة وشفافة لتقييم المخاطر والفرص المرتبطة بالاستثمار.

إن علم تحليل الفرص والمخاطر المرتبطة بالذكاء الاصطناعي جنبًا إلى جنب هو علم نادر غالبًا ما يقوضه انحيازنا البشري نحو الأطراف المتطرفة. ومع ذلك، فهو علم يجب على كل من المستثمرين والمجتمع ككل تبنيه، ليس فقط في تقييم شركات الذكاء الاصطناعي، بل أيضًا في فهم القدرات الواسعة التي تنبثق من مراكز بياناتها.

مشكلة العمود الواحد: لماذا تركز تغطية الذكاء الاصطناعي على المخاطر أو الفرص، وليس على كليهما

يميل النقاش العام إلى التركيز على جانب واحد في كل مرة: إما المخاطر أو الفرص. ونادرًا ما تتيح تلك النقاشات مجالًا لكليهما. وحتى المتفائل الأعمى سيقر بأن المواقف المتطرفة تجذب عناوين أفضل. وما يزيد الأمور تعقيدًا هو أن تريليونات الدولارات المكدسة على «الطاولة» المجازية تعني أنه لا يوجد طرف غير مهتم بالأمر.

وحتى لا نقع فريسة لحماقة «تحيز الحداثة»، يجب أن نلاحظ أن التقنيات الجديدة لا تأتي أبدًا في إطار منظور أحادي الجانب. فالتقنيات التحويلية تتجاوز التصنيف الثنائي بين «الجيد» و«السيئ»؛ ولا داعي للبحث جاهدًا عن أمثلة تاريخية.

• أدت المطبعة إلى الإنتاج الضخم لـ «مطرقة الساحرات» وأشعلت فتيل قرن من الحروب الدينية.
  • كما ساهمت في نشر المعرفة العلمية ومحو الأمية بين الجماهير.
• زودت عملية هابر-بوش ألمانيا خلال الحرب العالمية الأولى بالنترات اللازمة لإنتاج المتفجرات.
  • كما ساهمت في إنتاج الأسمدة الصناعية وإطعام نصف سكان العالم.
• ينشر الإنترنت خطاب الكراهية، وعمليات الاحتيال واسعة النطاق، والمعلومات المضللة.
  • كما أنها تربط أكثر من ستة مليارات شخص بمجموع المعرفة البشرية، وببعضهم البعض.

لكن هناك فرقًا واضحًا بين هذه اللحظة وتلك الأمثلة التاريخية: فقد ملأ الزمن تلك السجلات. وكما قال ستيف جوبز في مقولته الشهيرة: «لا يمكنك ربط [النقاط] إلا بالنظر إلى الوراء». لم يكن غوتنبرغ وأقرانه ليتصوروا أن الآلة نفسها ستنشر كتيبات مطاردة الساحرات والحروب الدينية، بينما تعمل في الوقت نفسه على نشر المعرفة على نطاق واسع وتغذية الثورة العلمية. تم الترويج للإنترنت في بداياته على أنه وسيلة للتواصل والمعرفة. ولم تظهر عمليات الاحتيال الواسعة النطاق والمعلومات المضللة في السجل إلا بعد ذلك بوقت طويل.

في ظل وتيرة التطور السريعة التي نشهدها، لا يمكن لأحد أن يحصي كل بند في سجل الذكاء الاصطناعي. ولن تحاول هذه المقالة القيام بذلك. بل إن الأمر الأكثر فائدة هو فهم كيفية ارتباط العمودين — المخاطر والفرص — ببعضهما البعض. ويكشف هذا التحليل عن حقيقة جوهرية: فكل بند تقريبًا له نظير في العمود الآخر.

زهرتان من نفس الغصن: كيف ترتبط مخاطر الذكاء الاصطناعي بفرصه

هذا الارتباط ليس من قبيل الصدفة؛ ففرص الذكاء الاصطناعي ومخاطره مرتبطة ارتباطًا وثيقًا، حيث تنبثقان من نفس مصدر القدرات. وبالتالي، فإن المخاطر والفرص تنمو جنبًا إلى جنب.

انظر إلى أي إنجاز تقريبًا وستجد النمط نفسه. فالنماذج التي تفهم البروتينات يمكنها تصميم اللقاحات. وهذا الفهم نفسه يمكن أن يساعد شخصًا ما على صنع مسبب مرضي قاتل. والنماذج التي تكتشف ثغرات في البرمجيات تمكّن المدافعين من إصلاحها بشكل أسرع. كما أنها تمكّن المهاجمين من استغلالها بشكل أسرع أيضًا. ويمكن لوكيل الذكاء الاصطناعي الذي يعمل بمفرده إنجاز ما يعادل يوم كامل من الأعمال الإدارية. كما يمكنه اتخاذ إجراءات قد تكون مدمرة لم توافق عليها.

لا يمكنك الحد من المخاطر دون الحد من الفرص. وهذا يجعلنا بمثابة بستانيين يعتنون بفرع واحد، وغريزة البستاني الأولى هي التقليم. صحيح أن التقليم يزيل المخاطر، لكنه يزيل الفوائد في المقابل. والتوفيق بين الفرص والمخاطر التي تنطوي عليها الذكاء الاصطناعي يعني العناية بالفرع بحيث تفوق الفوائد المخاطر.

هناك عاملان يجعلان ذلك ممكنًا. أولًا، الاهتمام بالجوانب الداخلية والخارجية للنموذج: الفرز، وصناديق الرمل، وإشراك البشر في العملية، والقيود المادية للنظام (سنعود إلى هذا الموضوع بعد قليل). ثانيًا، غالبًا ما تكون القدرة التي تخلق المخاطر هي أفضل أداة لتخفيفها.

تُعدّ علم الأحياء، وهي إحدى قدرات الذكاء الاصطناعي التي يُشار إليها بشكل متكرر في النقاشات حول P(doom) (احتمال تسبب الذكاء الاصطناعي في كارثة) نظرًا للحجم المحتمل للكارثة المرتبطة بها، ما قد يُعتبر أكثر ثنائيات «المخاطر والفرص» المذكورة أعلاه تحديًا. وقد عالجت كل من OpenAI وAnthropic وxAI وGoogle DeepMind الجوانب السلبية المحتملة لميل الذكاء الاصطناعي نحو البحث البيولوجي من خلال دمج إجراءات وقائية في أنظمتها، بعضها أكثر صرامة من البعض الآخر. في الواقع، أثناء البحث الذي أجريته من أجل كتابة هذا المقال، قام مصنف «كلود» (Claude) بخفض تقييمي من «أوبوس 5.5» إلى «أوبوس 4.8» في ثلاث مناسبات. 

تم التبديل إلى Opus 4.8 قم بالتحرير وأعد المحاولة باستخدام Opus 5.5

أشارت إجراءات الحماية في Opus 5.5 إلى هذه الرسالة. ربما تكون هذه هي المرة الأولى التي ترى فيها هذا الأمر على أحد طرازات Opus: يتمتع Opus 5.5 بقدرات أكبر، وبالتالي فإنه يضم إجراءات حماية أقوى، مما قد يؤدي أحيانًا إلى الإبلاغ عن الأعمال ذات الصلة بالبحوث البيولوجية. ونحن نعمل على تحسين إجراءات الحماية هذه لتقليل عدد الرسائل التي يتم الإبلاغ عنها بشكل خاطئ. أرسل ملاحظاتك أو اطلع على المزيد من المعلومات.

التفاصيل: [السيرة الذاتية]

وهذا الأمر مفيد من حيث أنه يخلق عقبات أمام الجهات التي تنوي ارتكاب أعمال خبيثة، لكنه غير كافٍ لأنه لن يثني أي مهاجم يتمتع بقدر ضئيل من المثابرة عن تحقيق هدفه. وكما يرى أو. إتش. شارفمان وويل بيلامي، فإن النماذج ذات الأوزان المفتوحة تتخلف عن أحدث التطورات بأقل من عام واحد، ويمكن تشغيلها بشكل خاص دون أن تعوقها القيود التي تفرضها إجراءات الحماية في المختبرات الرائدة. وبالتالي، فإن أكبر قدر من النفوذ يكمن خارج النماذج في نقاط الاختناق المادية مثل فحص «اعرف عميلك» (KYC) لدى مزودي خدمات تركيب الحمض النووي، وأنظمة الإنذار المبكر التي تحلل مياه الصرف الصحي والعينات السريرية للكشف عن التهديدات قبل انتشارها. ويجعل الذكاء الاصطناعي هذين النهجين ممكنين، ويُعززه حقيقة أن المدافعين، على حد تعبير بيلامي وشارفمان، «يتمتعون عمومًا بوصول أكبر إلى رأس المال، والبحوث، والبنية التحتية، والموظفين الأكفاء».

إن تطبيق هذا النهج على القراءة أحادية البعد للمخاطر يكشف ما هو على المحك. فإذا اكتفينا بقراءة المخاطر فقط، فستكون استجابتنا هي تقويض النموذج. وبذلك، نتخلى عن الإنجازات البيولوجية المرتبطة بمشاريع مثل «ألفا فولد» (التي يستخدمها أكثر من 3 ملايين باحث لتقليص سنوات من العمل المخبري) واللقاحات المعززة بالذكاء الاصطناعي التي تجتاز بالفعل التجارب البشرية. كل ذلك في الوقت الذي ما زلنا نفشل فيه في صد المهاجمين الذين يستخدمون نماذج ذات أوزان مفتوحة.

تتغير الاستجابة عندما يتم تقييم العمودين معًا في آن واحد. فبدلاً من الاعتماد على نموذج أضعف، يتم تعزيز الدفاعات حول نموذج قوي. وبدلاً من قطع الفرع، يجب استثمار المزيد من الوقت والموارد في العناية به. هذا خيار، ولا بد أن يتخذه أحد.

القطاع المالي بصفته أمينًا: كيف يؤثر المستثمرون على تطوير الذكاء الاصطناعي

تتمتع شركة «فاينانس» بمكانة فريدة تسمح لها بالتأثير على هذا القرار. يُعد نموذج S-1 الخاص بشركة «أنثروبيك» (Anthropic) أمرًا نادرًا لأن القانون يفرض ذلك. فاللوائح التنظيمية تُلزم المُصدرين بعرض جانبي الميزانية العمومية، أي المخاطر والفرص، في وثيقة واحدة، مدققة وموقعة. ولا يوجد أي شيء آخر تقريبًا في هذه القصة المتعلقة بالذكاء الاصطناعي يُعرض بهذه الطريقة. فالنجاحات تحظى ببيانات صحفية ومقاطع عرض توضيحية مبهرة، بينما تحظى الإخفاقات بعناوين بارزة وتعبيرًا عن القلق. ويصل كل منهما إلينا في عمود واحد.

وهذا يترك مهمة المصالحة الشاقة للقارئ. ولحسن الحظ، في عالم المال، يمتلك القارئ أدوات التأثير. فمن خلال تحديد أوجه تخصيص رأس المال، وكيفية التصويت على الأسهم، وما تكشفه الشركات، يمكن للمستثمرين أن يقرروا مصير هذه الفروع المتشابكة وأزهارها المتنافسة.

استغرق ملء دفاتر الحسابات السابقة المتعلقة بالتقنيات الثورية قرونًا. وفي ظل الوتيرة السريعة لتطور الذكاء الاصطناعي وإمكانية وصولنا الهائلة إلى المعلومات، لم يعد لدينا هذا الترف، ولا هذا العذر. فالتخصيصات والتصويتات والنشاطات التي نشهدها اليوم ستصبح تاريخًا غدًا. ولا يمكن للمستثمرين انتظار أن تترابط النقاط؛ بل عليهم أن يربطوها بأنفسهم.

مهمة التوفيق: تقييم مخاطر وفرص الذكاء الاصطناعي بشكل مشترك

لا يمكننا حتى الآن فحص السجل الكامل لـ«AI». وما لم تقم «AI» بتسريع وتيرة التقدم في علم إطالة العمر، فمن المرجح ألا تتاح لنا هذه الفرصة خلال حياتنا. لكن التاريخ يوضح لنا كيف ينبغي قراءة مثل هذه السجلات. فقد أدت المطبعة إلى الثورة العلمية ومحاكمات الساحرات؛ كما أن تقنية هابر-بوش أطعمت العالم وسلحت القيصر. ولا تمحو رؤيتنا بأثر رجعي أيًا من هذين الحدثين من السجل. بل تعلمنا أن نحتفظ بكليهما في آن واحد.

الذكاء الاصطناعي لن ينتظر حتى ننظر إلى الوراء. لذا، فإن الانضباط الذي يفرضه نموذج S-1 الخاص بشركة «أنثروبيك» بموجب القانون، يجب أن نفرضه نحن كعادة. هذا هو التقييم النهائي. إنه ليس حكماً نصدره بعد أن تهدأ الأمور ، بل هو توازن نحققه بينما لا تزال الأمور في حالة تقلب. راقبوا المخاطر واستجيبوا لها، لكن اهتموا بما ينمو بجانبها.