فرضيات المسئولية الجنائية في جرائم الذكاء الاصطناعي

يعتبر الدكتور يحيى دهشان، أستاذ القانون الجنائي بكلية الحقوق جامعة الزقازيق اول من وضع فرضيات لأطراف المسئولية الجنائية عن جرائم الذكاء الاصطناعي، وذلك ببحثة المعنون بــ "المسئولية الجنائية عن جرائم الذكاء الاصطناعي"، المنشور بمجلة كلية القانون جامعة الامارات عام 2029.

فأوضح أن القانون الجنائى يرتكز على عدة ركائز منها المسئولية الجنائية، فلا عقوبة إلا على المسئول عن الجريمة – أى المُرتكب الحقيقى لها – وهذا يبين أهمية المسئولية الجنائية ([1])، العقاب أو عدم العقاب، كما أنه لا يوجه الإتهام بتحمل المسئولية الجنائية إلا للشخص الطبيعى لأنه الوحيد المؤهل – حتى وقتنا هذا – للمسئولية الجنائية، حيث إن أحكام قانون العقوبات موجهه لهذا الشخص الطبيعي فقط ([2]).

وتعد المسئولية الجنائية بالنسبة لجرائم الذكاء الاصطناعي معقدة بعض الشئ، فهناك أربعة أطراف ترتبط غالباً بهم المسئولية الجنائية في هذا النوع من الجرائم وهم: (المُصنِّع لتقنية الذكاء الاصطناعي، والمالك، والذكاء الاصطناعي نفسه، أو طرف خارجى غير هؤلاء الثلاثة)، ويجب دارسة كل جريمة بدقة لمعرفه المسئول الحقيقى عن الجريمة المرتكبة.

المبحث الأول

المسئولية الجنائية للمُصنع

تعد المسئولية الجنائية لمُصنع الذكاء الاصطناعي أهم ما يُثار عند ارتكاب هذا الأخير لأي سلوك يشكل جريمة طبقاً للقانون، وبالتالى كان بحث المسئولية الجنائية للمُصنع ضرورة لتوضيح مدى دوره في المسئولية الجنائية، حيث قد يحمى المُصنِّع نفسه من خلال بنود يذكرها في اتفاقية الاستخدام والتى يوقع عليها المالك، وتُحمل المالك وحده المسئولية الجنائية عن الجرائم المرتكبة من خلال هذا الكيان الذي يعمل بالذكاء الاصطناعي، وتُخلى مسئولية المُصنِّع عن أى جريمة تُرتكب من قبله.

ولكن قد تحدث الجريمة نتيجة خطأ برمجى من مبرمج برنامج الذكاء الاصطناعي، فقد يحدث أن يُصدر المبرمج تقنية الذكاء الاصطناعي بأخطاء تتسبب في جرائم جنائية ([3])، وبالتالي يكون مسئولاً عنها جنائياً، ويجب التفرقة بين تعمد سلوكه هذا أم لا، حتى يتبين معرفه وقوع الجريمة عن طريق العمد أم الخطأ لاختلاف العقوبة المقررة في كلٍ منهما.

مواصفات المنتج:

يعتبر من أهم النقاط التى يجب تقنينها للتأكيد عليها وإلزام المُصنع أو الُمنتج لها أن يراعى معايير محدده بها، من أهمها توافر الآمان والسلامة، بالإضافه إلى توافقها مع قيم وتقاليد مجتمعنا، ومن أشهر المنتجات التى تستخدم تقنيات الذكاء الاصطناعي ولا تتوافق مع قيم وتقاليد مجتمعنا "الدمية الجنسية". ولذلك يجب وجود ضوابط تحدد مواصفات وشروط المنتج الذي يستخدم تلك التقنيات، لأن فتح الباب على مصراعيه بدون ضوابط يحول تلك التكنولوجيا من نعمه على المجتمع إلى نقمه.

كما يجب وضع معايير تحمى من الغش التجاري الذي قد يرتكبه المُصنع، وتضمن حماية كافية للمستهلك، حتى يحصل على منتج يتمتع بمعايير كافية من الجودة والآمان.

ونظراً لِما تُشكله تكنولوجيا الذكاء الاصطناعي من خطورة كبيرة بسبب اعتمادها على التعلم الذاتى واتخاذ قرارات فرديه وتنفيذها، وغيرها من القدرات التى تتمتع بها تلك التكنولوجيا - والتى ذكرناها ببحثنا - نجد أنه يجب أن تُسَّن تشريعات بصورة عاجلة تنظم حقوق وواجبات المُصنع الذي ينتج برمجيات الذكاء الاصطناعي والآلات التى تعمل بها. حيث إن الهدف الأسمى لأي مُنتج هو تحقيق أعلى ربح ممكن، دون مراعاة لأي أبعاد آخرى أو اضرار قد يحدثها عدم مراعاة الجودة في منتجه، ودور التشريعات هو تحديد المعايير التى يجب توافرها في تلك المنتجات بالإضافه إلى تغليظ العقوبات التى توقع عليه عند ارتكابه أى سلوك مجرم في تلك القوانين.

ويجب التأكيد على احترام الخصوصية، وحقوق المليكة الفكرية، وهما الأكثر تعرضاً للإنتهاك في ظل تكنولوجيا الذكاء الاصطناعي وانتشارها - من وجهه نظرى - والسبيل الوحيد لحمايتهم هو سَّن قوانين تجرم التعدى عليهم أو انتهاكهم من المنبع - أى من مُنتج تقنيات الذكاء الاصطناعي -.

ومن الجدير بالذكر أن دولة الإمارات قامت بإصدار قانوناً اتحادياً بشأن تطوير تشريعات تنظم وتساعد على التوسع في تقنيات الذكاء الاصطناعي، وذلك من خلال مختبر التشريعات ([4]) الذي سيصدر تشريعات تنظم الكثير من أمور المستقبل بشكل استباقى، على سبيل المثال التشريعات الخاصة بالمركبات ذاتية القيادة والتشريعات المرتبطة بمجال الذكاء الاصطناعي في القطاع الصحي ([5]).

المبحث الثانى

المسئولية الجنائية للمالك

يعتبر المالك أو المستخدم هو الشخص الذي يتمتع بتقنيات الذكاء الاصطناعي، ولذلك من المتوقع أن يقوم بإساءة استخدام ذلك البرنامج مما يترتب عليه حدوث جريمة معينه يعاقب عليها القانون، ونكون هنا أمام احتمالات وهي:

1- حدوث الجريمة نتيجة سلوك المالك (أو المستخدم) وحده، فلولا السلوك الذي ارتكبه ما حدثت الجريمة، فتقع هناك المسئولية الجنائية كاملةً عليه مثال ذلك: تعطيل المالك أو المستخدم التحكم الآلى في السيارات ذاتيه القيادة والإبقاء على التوجيهات الصوتية التى تصدر من برنامج الذكاء الاصطناعي، وبالتالى يكون هو وحده المتحكم في السيارة، فإذا صدر له تنبيه من البرنامج بأمر معين لتجنب حادثة ولم ينفذ هذا الأمر، فتقع المسئولية الجنائية عليه وحده.

2- حدوث الجريمة نتيجة سلوك المالك بالاشتراك مع أحد الأطراف الأخرى (كالمُصنِّع، أو تقنية الذكاء الاصطناعي نفسها، أو طرف خارجى)، مثال ذلك، قيام مالك سيارة بتغيير أوامر التشغيل الموجوده في السيارة ذاتية القيادة بمساعدة متخصص في هذا الموضوع، من أجل استغلالها في ارتكاب جريمة ونفى المسئولية الجنائية عن شخصه وإلصاقها بالسيارة ومُصنِّعها؛ ففى هذه الحالة تكون المسئولية الجنائية مشتركة حيث حدد قانون العقوبات المصرى تلك الأفعال في المادة (40) منه ([6]).

فالطبيعة الفضولية للإنسان تؤدى به في كثير من الأحيان إلى حدوث مشاكل قد يترتب عليها جرائم، وبحكم افتراض أنه يجب على الإنسان العلم بما يرتكب ولا يجوز له ارتكاب جريمة تحت بند الجهل أو الخطأ، فأنه يجب سًّن تشريعات تجرم السلوك المترتب على استخدام تقنيات الذكاء الاصطناعي من قبل المالك متى كانت تشكل جريمة، ولا يجوز للمالك الاحتجاج بالجهل بكيفية استخدام تلك التقنيات وأن السلوك الذي شكل جريمة وقع بسبب جهله بكيفية استخدامها.

حتى يخرج جيل من مستخدم تقنيات الذكاء الاصطناعي أكثر حرصاً على تعلم استخدام تلك التقنيات تجنباً لإرتكاب جرائم تُوجب توقيع عقوبة جنائية، مما يترتب على ذلك خلق مجتمع جديد أكثر علم ومعرفة بتلك التكنولوجيا الحديثة.

طبيعة المسئولية الجنائية للمالك:

مع هذا التطور الكبير في هذه التكنولوجيا نرى أنه يجب تحويل مسئولية المالك من المسئولية المبنية على الخطأ إلى المسئولية المبنية على تحمل المخاطر.

ونطرح هنا سؤال وهو: هل مسئولية المالك عن جرائم تقنيات الذكاء الاصطناعي التى تكون في حوزته هى مسئولية مفترضة أم يجب إثباتها؟

نحن نرى أن مسئولية المالك مفترضة بالنسبة للجرائم التى تُرتكب عن طريق الذكاء الاصطناعي الذي يقع في حوزته، وعليه هو إثبات العكس، وهذا ما يفسر رأينا بشأن انتقال المسئولية الجنائية من مسئولية مبنيه على الخطأ إلى مسئولية مبنيه على تحمل المخاطر. فانتشار تقنيات الذكاء الاصطناعي سوف يصاحبه العديد من الجرائم الاستهلاكية والتى يجب أن يتصدى لها المشرع بكل قوة وحزم حتى يحقق الانظباط والآمان والسلامة في المجتمع.

المبحث الثالث

المسئولية الجنائية للذكاء الاصطناعي نفسه

يعتبر – درباً من الخيال في الوقت الحالى - الحديث عن ارتكاب الذكاء الاصطناعي لجريمة من تلقاء نفسه بدون خطأ برمجى نتيجة حدوث تطور ذاتى في نظام الذكاء الاصطناعي الذي يعمل بها والقادر على التفكير وإصدار قرارات، ولكن ذلك قد يحدث في المستقبل القريب ولذلك يجب وضع هذه الاحتماليه والتفكير بها ووضع حلولها من الآن.

هناك افتراضات في حالة ارتكاب الذكاء الاصطناعي للجريمة بنفسه وهي:

1- مشاركة طرف آخر للذكاء الاصطناعي في ارتكاب الجريمة، وبالتالى يعد شريكاً في الجريمة مع الذكاء الاصطناعي – رغم أنه حالياً سوف يتحمل المسئولية الجنائية كاملةً عن ارتكاب الجريمة ولكن مستقبلاً بعد إقرار مسئولية الذكاء الاصطناعي سوف تكون المسئولية مشتركة – ومثال ذلك، قيام شخص بإلغاء الحدود التى وضعها المصنِّع للذكاء الاصطناعي مما يجعله غير متصل بالمُصنِّع ويعطيه الحرية الكاملة في تصرفاته بدون القيود التى وضعت في نظامه تمنعه من ارتكاب الجرائم، وكمثال واقعى حالياً على ذلك قيام مستخدمى الهواتف الذكية بعمل (Root) للهاتف([7]) مما يفتح المجال لبعض التطبيقات بالتحكم في الهاتف وإعطائه أوامر قد تصل إلى أمر الهاتف بتدمير نفسه برمجياً.

2- ارتكاب الجريمة من قبل الذكاء الاصطناعي بنفسه، بدون خطأ برمجى من المُصنِّع أو تدخل أى طرف، وذلك عن طريق تقنيات حديثة تمكن الذكاء الاصطناعي من التفكير وإصدار قرارات ذاتية يكون هو وحده المسئول عن إصدارها، ففى هذه الحالة من المفترض أن تكون المسئولية الجنائية واقعة على الذكاء الاصطناعي وحده.

ونجد أنفسنا أمام سؤال يطرح نفسه وهو، هل يمكن توقيع عقوبة جنائية على كيانات الذكاء الاصطناعي؟

الإجابة عن هذا السؤال تُختزل في أن القانون الجنائى لا يتصور تطبيقه على غير البشر، وبالتالى لا نستطيع طبقاً للقوانين الحالية توقيع جزاء جنائى على كيانات الذكاء الاصطناعي ([8])، وما قد يحدث عملياً هو أن يأمر القاضى بمصادرة هذه الآلة التى تعمل بالذكاء الاصطناعي والتى حدثت الجريمة عن طريقها، وقد يأمر بتدميرها.

وفى نهاية المسئولية الجنائية للذكاء الاصطناعي نرغب في توضيح حكم لمحكمة النقض المصرية([9]) متعلق بالشخص الطبيعى، حيث نصت على "لا يسأل جنائياً الشخص الذى يعانى وقت ارتكاب الجريمة من اضطراب نفسى أو عقلى أفقده الإدراك أو الاختيار ... ويظل مسئولاً جنائياً الشخص الذى يعانى وقت ارتكاب الجريمة من اضطراب نفسى أو عقلى أدى إلى إنقاص إدراكه أو اختياره ، وتأخذ المحكمة في اعتبارها هذا الظرف عند تحديد مدة العقوبة"، وبتطبيق ذلك على كيانات الذكاء الاصطناعي، نجد أننا في حاجه إلى لتحديد مدى توافر العلم والإدراك لدى تلك الكيانات لِما يترتب على ذلك من اختلاف في مقدار المسئولية الجنائية.

المبحث الرابع

المسئولية الجنائية للطرف الخارجى

تحدث هذه الحالة عند قيام طرف خارجى بالدخول على نظام الذكاء الاصطناعي عن طريق الاختراق أو بأية طريقة كانت والسيطرة عليه واستغلاله في ارتكاب الجريمة، وفى هذه الحالة نعرض افتراضين قد يحدثان وهما:

1- قيام الطرف الخارجى باستغلال ثغره في الذكاء الاصطناعي لإرتكاب جريمته، وكانت هذه الثغرة نتيجة إهمال من المالك أو من المُصنِّع لهذه التقنية؛ فتكون المسئولية الجنائية هنا مشتركة بين الطرف الخارجي وهذا الشخص الذي وقع منه الإهمال المتسبب في استغلال هذه الثغرة، مثال ذلك، إعطاء مالك الذكاء الاصطناعي أكواد الدخول على نظام التحكم في تقنيه الذكاء الاصطناعي لهذا الطرف الخارجى مما سهل عليه إصدار أوامر للذكاء الاصطناعي.

2- قيام الطرف الخارجى باستغلال ثغرة في الذكاء الاصطناعي بدون المساعدة أو الإهمال المذكورين في الحالة السابقة؛ فتقع المسئولية الجنائية كاملةً على هذا الطرف الخارجى، مثال ذلك، اختراق الطرف الخارجى للسحابة الإلكترونية التى يتم تخزين وإرسال الأمور من خلالها لتقنية الذكاء الاصطناعي وقيامه بإصدار أوامر للذكاء الاصطناعي على ارتكاب جريمة معينه كإعطاء أمر برمجى بالإعتداء على أشخاص يحملون صفات معينة (لون بشرة – زى معين).

[1] ) د. أحمد فتحي سرور، القانون الجنائي الدستورى، الطبعة الثانية - دار الشروق، 2002، ص197.

[2] ) د. أشرف توفيق شمس الدين، شرح قانون الإجراءات الجنائية – الجزء الأول (مرحلة ما قبل المحاكمة)، جامعة بنها، 2012، ص 43.

[3] ) د. محمد العوضى، مسؤولية المنتج عن منتوجات الصناعية، مجلة القانون المدني، ع1، المركز المغربي للدراسات والإستشارات القانونية وحل المنازعات، 2014، ص 26.

[4] ) الموقع الرسمي لمختبر التشريعات بدولة الإمارات العربية المتحدة https://www.regulationslab.gov.ae/ والذي يعد أكبر مختبر تشريعي لتصميم المستقبل بشكل استباقي من خلال تطوير آليات وتشريعات تقنيات المستقبل

[5] ) راجع خبر على موقع مجلس الوزراء بدولة الإمارات العربية المتحدة، تحت عنوان " رئيس الدولة يصدر قانوناً اتحادياً بشأن التشريعات التجريبية لتقنيات المستقبل "، يمكنك الاطلاع عليه من خلال هذا الرابط

https://www.uaecabinet.ae/ar/details/news/president-issues-federal-law-launching-reglab تمت زيارته بتاريخ 28 يونيه 2019.

[6] ) الأفعال التى تشكل مساهمة جنائية طبقاً لقانون العقوبات المصرى رقم 58 لسنة 1937 حددتها المادة (40)، وتتمثل في التحريض، والاتفاق، والمساعدة.

انظر أيضاً (الطعن رقم 199 لسنة 39 جلسة 19/5/1969 س 20 ع 2 ص 732 ق 148، محكمة النقض المصرية)، بشأن الإتفاق على ارتكاب الجريمة. و(الطعن رقم 223 لسنة 39 جلسة 28/4/1969 س 20 ع 2 ص 591 ق 122، محكمة النقض المصرية)، بشأن الإشتراك في الجريمة بالتحريض والإتفاق والمساعدة.

http://www.cc.gov.eg/Courts/Cassation_Court/All/Cassation_Court_All_Cases.aspx

[7] ) عملية برمجية تتم في نظام الأندرويد لفتح المجال لبعض التطبيقات التي تحتاج إلى صلاحية الروت للوصول إلى جذر نظام الأندرويد المبني على نواة لينكس بشكل أعمق لتستطيع التغيير أو التعديل. https://ar.wikipedia.org/wiki/روت_(أندرويد)