الطبيب شخّص الحالة، والمريض اتبع التشخيص، ثم وقع الضرر؛ إذن نبحث في مسؤولية الطبيب والمنشأة الصحية.

الأطراف معروفة، والعلاقة واضحة، والترخيص المهني موجود، ويمكن مراجعة الملف الطبي ومعرفة من اتخذ القرار، ثم تحديد ما إذا كان قد وقع تقصير أو خطأ مهني .. مسألة معقدة بالتأكيد، لكنها على الأقل تبدأ بسؤال نعرف كيف نبحث عن إجابته: من قام بالفعل؟

لكن ماذا لو لم يكن من قام بالتشخيص طبيبًا؟

تخيّل أن شخصًا دخل إلى تطبيق مستشفى، واستخدم خدمة تشخيص مدعومة بالذكاء الاصطناعي. سأله النظام عن الأعراض، وراجع تاريخه الطبي، وحلل نتائج الفحوصات، ثم قدم له توصية اطمأن إليها وتصرف بناءً عليها. لاحقًا، اتضح أن التوصية كانت خاطئة، وتأخر العلاج، ووقع الضرر.

هنا يبدأ السؤال نفسه: من أخطأ؟

لكن الإجابة هذه المرة تفتح بابًا خلفه أبواب كثيرة.

في البداية، لنستوضح نقطة مهمة: نحن في أودل نؤمن بأن الذكاء الاصطناعي سيحدث تحولًا كبيرًا في جودة الخدمات وكفاءتها، وسيساعد المنظمات على فهم عملائها، وتسريع أعمالها، وتحليل كميات ضخمة من البيانات، وتقديم خدمات أكثر تخصيصًا وقدرة على الاستجابة.

لكن مدونتنا هذه ليست لمحاكمة الذكاء الاصطناعي كمفهوم، بل لتسليط الضوء على شكل النزاعات التي قد تنتج عندما يصبح طرفًا مؤثرًا في تقديم الخدمات وصناعة القرارات داخل العلاقات التجارية.

لنبدأ..

النزاع الذي نعرف أطرافه

في النموذج التقليدي، توجد علاقة مباشرة نسبيًا بين المستفيد ومقدم الخدمة. هناك طبيب يقدم استشارة، أو موظف خدمة عملاء يقدم تعليمات، أو مستشار يقدم توصية، أو موظف يراجع طلبًا ويتخذ قرارًا. وعند وقوع الخطأ، يمكن الرجوع إلى الشخص الذي قام بالفعل، والمنشأة التي يعمل لديها، والإجراءات المتبعة، والأنظمة والضوابط المهنية التي تحكم عمله.

بالتأكيد، النزاعات التجارية والمهنية ليست بسيطة دائمًا، وقد تتعدد فيها المسؤوليات والأسباب، لكن أطراف العلاقة في الغالب معروفة، ونقطة البداية واضحة: من قدم الخدمة؟ ومن اتخذ القرار؟ أما الذكاء الاصطناعي فلا يحمل ترخيصًا مهنيًا، ولا يوقع على التوصية، ولا يمثل أمام المحكمة، ولا يملك ذمة مالية يمكن الرجوع إليها حتى الأن.

ومع ذلك، قد يكون حاضرًا في أهم لحظة داخل الرحلة: لحظة اتخاذ القرار. > إنه الطرف الحاضر في الفعل، والغائب عن النزاع <

في أمثلتنا السابقة لندخل الذكاء الاصطناعي إلى العلاقة

لنفترض أن المستشفى قدم خدمة التشخيص تحت اسمه، لكنه لم يطورها بنفسه.

اشترى المستشفى الحل من شركة تقنية قامت ببناء التطبيق وربطه بالأنظمة الصحية. وهذه الشركة استخدمت نموذج ذكاء اصطناعي طورته شركة أخرى. ثم جرى تحسين النموذج باستخدام بيانات قدمتها جهة متخصصة، وربطه بمصادر معرفة طبية خارجية، وتشغيله على بنية سحابية تابعة لمزود آخر.

أصبح لدينا الآن:

• المستشفى الذي قدم الخدمة.

• الشركة التي صممت التطبيق وتجربة الاستخدام.

• مزود النموذج الأساسي.

• الجهة التي خصصت النموذج ودربته.

• الجهات التي وفرت بيانات التدريب ومصادر المعرفة.

• مزود البنية التحتية والحوسبة.

• وربما فريق مختص وافق على تشغيل الخدمة وحدد مستوى التدخل البشري فيها.

جميعهم شاركوا بطريقة ما في إنتاج النتيجة، لكن ليس بالضرورة أن يكونوا جميعًا مسؤولين عنها. فقد يكون الخطأ في النموذج نفسه، أو في البيانات التي دُرب عليها، أو في طريقة تخصيصه، أو في المعلومات التي استرجعها أثناء الإجابة، أو في الربط بين التطبيق والأنظمة الداخلية، أو في التعليمات التي قدمتها المنشأة.

وربما كانت التوصية في أصلها احتمالية، لكن تصميم التطبيق عرضها للمستفيد وكأنها قرار نهائي لا يحتاج إلى مراجعة بشرية، وقد يعمل كل مكون كما صُمم له تمامًا، لكن الخطأ يظهر نتيجة اجتماع هذه المكونات معًا.

وهنا لا نبحث عن خطأ واحد فقط؛ بل نبحث عن الخطأ داخل سلسلة تقنية وتجارية كاملة.

وليس الطب وحده!

لنفترض أنك اشتريت جهازًا إلكترونيًا، وبعد فترة ظهر فيه خلل بسيط.

دخلت إلى تطبيق الشركة وتواصلت مع خدمة العملاء، لكن من رد عليك لم يكن موظفًا، بل وكيل ذكاء اصطناعي.

سألك الوكيل عن المشكلة، وراجع نوع الجهاز وإصداره، ثم قدم لك مجموعة من التعليمات لإصلاح الخلل. اتبعت الخطوات كما ظهرت لك، لكن الجهاز توقف عن العمل بالكامل، وربما فقدت ضمانه بسبب أحد الإجراءات التي طلب منك تنفيذها.

من المسؤول هنا؟

من وجهة نظرك، الإجابة واضحة: الشركة هي من باعتك الجهاز وقدمت لك خدمة الدعم تحت اسمها.

لكن الشركة قد تقول إن التوصية لم يقدمها أحد موظفيها، وإنما أنتجها نظام ذكاء اصطناعي وفرته شركة تقنية خارجية. وتقول الشركة التقنية إن الوكيل اعتمد على نموذج طورته جهة أخرى، وإن إجابته بُنيت على قاعدة المعرفة التي زودتها بها الشركة المصنعة للجهاز. أما مزود النموذج فقد يقول إن النموذج لم يكن يعرف جهازك بذاته، وإنما صاغ الإجابة بناءً على المعلومات والتعليمات التي أتيحت له. وهكذا دواليك .. الى آخر دوامة رمي الاتهامات.

وقد يتبين في النهاية أن المعلومة الخاطئة كانت موجودة في دليل صيانة قديم، أو أن الوكيل خلط بين إصدارين مختلفين من الجهاز، أو أن التطبيق أرسل إليه بيانات غير صحيحة عن المنتج الذي تستخدمه.

الزبدة .. الجهاز تعطّل، لكن المسؤولية توزعت بين الشركة المصنعة، ومزود خدمة العملاء، ومطور الوكيل، ومزود النموذج، ومصدر المعرفة الذي استندت إليه الإجابة.

وهكذا تحولت محادثة بسيطة مع خدمة العملاء إلى سلسلة تحقيق تقنية وتجارية لمعرفة من طلب منك الضغط على الزر الخطأ!

في المثال الأول كانت النتيجة ضررًا صحيًا، وفي المثال الثاني كانت جهازًا متعطلًا.

اختلف حجم الضرر، لكن شكل النزاع واحد: العميل تعامل مع جهة يعرفها، بينما القرار الذي تسبب في الضرر تكوّن داخل سلسلة من النماذج والبيانات والموردين لا يعرف عنها شيئًا.

من قدّم الخدمة فعلًا؟

من منظور العميل، الإجابة بسيطة: الجهة التي قدمت الخدمة تحت اسمها.

المستفيد دخل إلى تطبيق الجهة ووثق في اسمها، وتعامل مع الوكيل الذكي باعتباره ممثلًا لها، حتى لو لم يكن موظفًا لديها بالمعنى التقليدي، لم يختر العميل نموذج الذكاء الاصطناعي، ولم يطلع على بيانات تدريبه، ولم يوافق على الموردين المشاركين في تطويره وتشغيله.

لكن الجهة المقدمة للخدمة قد تقول إن الخلل في النموذج الذي وفرته الشركة التقنية، والشركة التقنية قد تقول إنها دمجت النموذج وفق المواصفات والتعليمات التي حددتها الجهة، ومزود النموذج قد يوضح أن نموذجه عام، وأنه لم يُصمم للاستخدام الذي تم توظيفه فيه، أما مزود البيانات أو المعرفة فقد يؤكد أنه قدم المعلومات كما هي، وأن مسؤولية اختبار ملاءمتها تقع على من استخدمها، ومزود الحوسبة سيقول غالبًا إن بنيته نفذت العمليات المطلوبة، لكنه لا يتحكم في القرارات التي ينتجها النموذج.. مرة أخرى  دوامة من رمي الإتهامات.

وهكذا يتحول المتضرر من صاحب حق يبحث عن تعويض إلى محقق تقني مطالب بفهم سلسلة لم يكن طرفًا في عقودها، ولا يعرف تفاصيلها، وربما لم يعلم أصلًا بوجود معظم أطرافها.

الذكاء الاصطناعي ليس طبيبًا ولا موظف خدمة عملاء

الذكاء الاصطناعي ليس طبيبًا، لكنه قد يقدم توصية طبية، وليس موظف خدمة عملاء، لكنه قد يتحدث باسم الشركة ويوجه العميل إلى ما يجب فعله، وليس مستشارًا ماليًا، لكنه قد يقترح قرارًا استثماريًا، وليس موظف ائتمان، لكنه قد يحلل طلب التمويل ويوصي بالموافقة عليه أو رفضه.

أي أنه أصبح قادرًا على أداء أدوار يمارسها البشر داخل العلاقات التجارية، والتأثير في قرارات العملاء، دون أن يكون شخصًا طبيعيًا أو اعتباريًا يمكن مساءلته مباشرة وهذا لا يعني أن الذكاء الاصطناعي أصبح كيانًا قانونيًا مستقلًا، لكنه بالتأكيد لم يعد مجرد برنامج هامشي داخل العلاقة. إنه طبقة فاعلة في إنتاج القرار، لكنها طبقة لا يمكن استدعاؤها إلى المحكمة وسؤالها: لماذا فعلت ذلك؟

المشكلة ليست فقط: من أخطأ؟

في النزاعات التقليدية، نبحث عن الفعل، والفاعل، والضرر، والعلاقة السببية بينها، أما في أنظمة الذكاء الاصطناعي، فقد يكون إثبات العلاقة السببية هو التحدي الأكبر.

أي نسخة من النموذج أنتجت التوصية؟
ما البيانات التي كانت متاحة له في تلك اللحظة؟
ما التعليمات التي وجهت سلوكه؟
ما مصدر المعلومة التي استند إليها؟
هل تغير النموذج بعد الواقعة؟
هل يمكن إعادة إنتاج النتيجة نفسها؟
وهل يحتفظ أي طرف بسجل كامل لما حدث؟

يمكن سؤال الطبيب أو موظف خدمة العملاء أو المستشار عن سبب تقديم التوصية، حتى لو كانت إجابته محل نقاش، أما النموذج فقد ينتج إجابة دون أن يقدم تفسيرًا مفهومًا ودقيقًا لمسار الوصول إليها.

وحتى عندما تكون السجلات موجودة، قد تكون موزعة بين عدة جهات، وبعضها في دول وقارات مختلفة، وبعضها محمي بحقوق الملكية والأسرار التجارية وغيرها من التحديات. وبذلك لا تصبح القضية خلافًا حول المسؤولية فقط؛ بل خلافًا سابقًا حول الوصول إلى الأدلة وفهمها.

العقد يوزع الخسارة.. لكنه لا يجيب العميل

ستحاول الشركات معالجة هذه المخاطر من خلال العقود، سيضع مزود النموذج أو خدمة حدودًا لاستخدامه، وستضيف الشركة التقنية بنودًا تحد من مسؤوليتها، وستطلب الجهة المقدمة للخدمة ضمانات لمستوى الخدمة والأداء، وستتوزع الالتزامات المتعلقة بالاختبار والمراقبة والتحديث والتعويض. هذا مهم لتنظيم العلاقة بين الأطراف، لكنه لا يكفي وحده لإجابة المتضرر.

فالعميل لم يطّلع على العقود الموقعة بين الجهة المقدمة للخدمة ومزودي التقنية، ولم يشارك في اختيار النموذج أو بيانات تدريبه، ولا ينبغي أن يتحول حقه في التعويض إلى رحلة بين بنود الإعفاء وحدود المسؤولية .. العقد قد يحدد من يتحمل الخسارة في النهاية بين الشركات، لكنه لا ينبغي أن يجعل المتضرر يبحث بنفسه عن الحلقة الأضعف في سلسلة الذكاء الاصطناعي.

التنظيم يتقدم.. والقضاء أمام نزاع جديد

مع توسع اعتماد المنظمات على الذكاء الاصطناعي، بدأت الجهات التنظيمية بوضع ضوابط قطاعية تنظم استخداماته بحسب طبيعة كل قطاع، ونوع القرارات التي يشارك فيها، وحجم الآثار المحتملة على العملاء والمستفيدين، وستشكّل هذه التنظيمات أساسًا مهمًا يعتمد عليه القضاء في معرفة التزامات الأطراف، وضوابط استخدام الأنظمة، ومتطلبات الاختبار والرقابة والتوثيق وإدارة المخاطر، لكن ظهور النزاع سينقل المسألة من تنظيم الاستخدام بشكل عام إلى فهم واقعة محددة بتفاصيلها الفنية.

سيحتاج القضاء إلى معرفة النموذج الذي كان مستخدمًا عند وقوع الضرر، والبيانات والمعلومات التي اعتمد عليها، والتعليمات التي وجهت سلوكه، والتحديثات التي طرأت عليه، وحدود تحكم كل طرف من أطراف العلاقة في النتيجة التي صدرت عنه، كما سيحتاج إلى التمييز بين مسؤولية الجهة التي قدمت الخدمة، والشركة التي طورت التطبيق، والجهة التي وفرت النموذج، والطرف الذي دربه أو خصصه، ومزود البيانات أو مصادر المعرفة، ومزود البنية التقنية التي يعمل من خلالها. فهذه التنظيمات ستساعد على تحديد ما كان يجب على كل طرف فعله، بينما ستحتاج المنظومة القضائية إلى تطوير قدرتها على قراءة ما حدث فعلًا، وتحديد موطن الخطأ، وإثبات العلاقة بينه وبين الضرر.

القاضي لا يحتاج إلى أن يصبح مطور ذكاء اصطناعي، لكنه يحتاج إلى الممكنات والخبرات التي تساعده على فهم الأدلة الفنية، وقراءة سجلات النماذج، والتمييز بين أدوار الأطراف، ومعرفة من كان يملك القدرة الفعلية على اكتشاف الخطأ أو منعه.

وهنا يظهر أحد أهم متطلبات المرحلة القادمة: ألا يقتصر تطور التعامل مع الذكاء الاصطناعي على الجهات التي تنظمه أو الشركات التي تستخدمه، بل يمتد إلى الطريقة التي تنظر بها المنظومة القضائية إلى النزاعات الناتجة عنه.

المطلوب ليس اختراع متهم جديد، بل تطوير طريقة القضاء في فهم من صنع القرار، ومن استطاع منع الضرر، ومن كان يملك السيطرة في كل مرحلة وبهذا نصل إلى السؤال الأهم في تدوينتنا.

كيف يمكن تمكين منظومة التقاضي في عصر الذكاء الاصطناعي؟

القضاء المتطور في هذا النوع من النزاعات لن يكتفي بقراءة العقد والنتيجة النهائية، بل سيحتاج إلى فهم دورة حياة النظام كاملة. ويشمل ذلك عددًا من الممكنات:

تصنيف واضح للأدوار

يجب التمييز بين مطور النموذج، ومزود النظام، والجهة التي خصصته، والجهة التي نشرته، والجهة التي استخدمته لتقديم الخدمة، فوجود أطراف كثيرة لا يعني تساوي مسؤولياتهم.

مسؤولية تتبع السيطرة والقدرة على منع الضرر

الطرف الأقرب إلى العميل ليس مسؤولًا عن كل خلل تقني بالضرورة، والطرف الأبعد ليس خارج المسؤولية لمجرد أنه لا يتعامل مع العميل مباشرة، ينبغي النظر إلى من حدد الاستخدام، ومن اختبر النظام، ومن كان يراقب أداءه، ومن استطاع اكتشاف الخلل أو إيقافه.

سجلات لا يمكن أن تختفي

لا يمكن الفصل في نزاع إذا لم نعرف نسخة النموذج، ومدخلاته، ومخرجاته، ومصادر معرفته، والتعليمات التي وجهته، والتحديثات التي طرأت عليه، لذلك يجب أن تصبح قابلية التتبع وحفظ السجلات جزءًا من متطلبات الإثبات، وليست ميزة تقنية اختيارية.

خبرة قضائية تقنية متخصصة

القضية قد تحتاج إلى خبراء في النماذج والخوارزميات والبيانات والبنية السحابية والأمن السيبراني وتجربة المستخدم، إلى جانب الخبراء في القطاع محل النزاع، فطريقة عرض التوصية على العميل قد تكون مؤثرة في الضرر بقدر دقة النموذج نفسه.

قواعد للوصول إلى الأدلة

لا يمكن مطالبة العميل بإثبات عيب داخل نموذج مغلق لا يستطيع الوصول إليه، يجب أن يمتلك القضاء أدوات لإلزام الأطراف بالإفصاح عن السجلات والمعلومات الفنية اللازمة، مع حماية الأسرار التجارية في الوقت نفسه. وهناك تعقيد آخر: الذكاء الاصطناعي ليس منتجًا ثابتًا دائمًا فقد يتغير النموذج بالتحديث، وتتغير مصادر معرفته، وتتطور بياناته، وتختلف النتيجة باختلاف السياق وطريقة صياغة السؤال. وقد تكون النسخة التي أخطأت اليوم غير موجودة عند نظر القضية بعد عام.

وهنا لن يكون السؤال: ما هذا النظام؟

بل: ما النظام الذي كان يعمل في تلك اللحظة تحديدًا؟

إن لم تحفظ المنظمات هذا التاريخ، فقد نصل إلى محاكمة نتيجة لا يمكن إعادة إنتاجها، صادرة عن نسخة لم تعد موجودة، بناءً على بيانات لا يعرف أحد بدقة ما كانت عليه.

نقطة واضحة لرجوع المتضرر

من الصعب أن يلاحق المتضرر جميع أطراف السلسلة لمعرفة المسؤول فالعميل المتضرر يرغب بالحصول على حقه نتيجة الضرر الحاصل وبينما المنظومة تصل الى الطرف المتسبب به.

خلاصة القول

عندما كان الطبيب أو موظف خدمة العملاء أو المستشار يتخذ القرار، كنا نبحث في مسؤولية الشخص والمنشأة التي يعمل لديها، أما عندما يصبح القرار نتيجة تفاعل بين جهة مقدمة للخدمة، ومطور تطبيق، ومزود نموذج، وبيانات تدريب، ومصادر معرفة، وبنية سحابية؛ فإن قواعد المسؤولية التقليدية قد تواجه علاقة تجارية أكثر تعقيدًا من قدرتها على التفسير، ولا تكمن المشكلة في أن الذكاء الاصطناعي أخطأ فقط، بل في أننا قد لا نعرف أي طبقة صنعت الخطأ، ومن كان يستطيع منعه، ومن يحتفظ بالدليل الذي يثبته.

لذلك لا يكفي أن تتطور الأنظمة التي تستخدم الذكاء الاصطناعي؛ يجب أن تتطور معها طريقة النظر إلى النزاعات الناتجة عنها.

فالذكاء الاصطناعي قد لا يكون شخصًا نحاكمه، لكنه بالتأكيد أصبح واقعًا يجب أن يعرف القضاء كيف يحاكم آثاره.

شكرًا لكم .. 

لحظة !! ,,

مفارقة أخيرة قبل إغلاق ملف القضية!

تخيّل معي أن المتضرر، بعد هذه الرحلة الطويلة بحثًا عن المسؤول، قرر أخيرًا اللجوء إلى القضاء.

جمع مستنداته، وحدد أطراف النزاع، واستعان بالخبراء لفهم النموذج والبيانات ومصادر الخطأ، ثم اكتشف أن القاضي الذي سينظر قضيته هو الآخر نموذج ذكاء اصطناعي!

هنا يظهر انحياز جديد لم نتطرق إليه بعد: انحياز الزمالة الخوارزمية.

فهل سينظر القاضي الذكي إلى القضية بحياد كامل، أم يتعاطف مع زميله المتهم ويقول لصاحب القضية:

"الأخطاء واردة يا عزيزي.. كلنا نهلوس أحيانًا"

— مزحة قضائية تحت تهديد النماذج.. حتى الآن 

فريق المكتبة المعرفية 

أودل

الرياض ..