المدير العام
أنظمة الذكاء الاصطناعي باتت تؤثر في قرارات الرعاية الصحية والخدمات الاجتماعية والإدارة العامة في السعودية. عندما تمس هذه الأنظمة المواطنين بشكل مباشر، تصبح الرقابة البشرية ضرورة حوكمة لا يمكن الاستغناء عنها. هذا المقال يحدد الضوابط التي يجب على قادة القطاع العام السعودي تطبيقها لتحقيق التوازن بين الابتكار والثقة المجتمعية.
مفهوم "البشر في الحلقة" يعني أن المسؤولية النهائية عن النتائج تقع على البشر، حتى عند الاستعانة بتوصيات الذكاء الاصطناعي أو الأتمتة. في المؤسسات السعودية، يتطلب ذلك:
الذكاء الاصطناعي غير الخاضع للرقابة قد يضخم التحيز أو يخفي الأخطاء على نطاق واسع. على الجهات الحكومية السعودية تنفيذ:
لو افترضنا أن وزارة الصحة تطبق نظام ذكاء اصطناعي لفرز المرضى في أقسام الطوارئ، يمكن وضع ضوابط رقابية مثل:
الذكاء الاصطناعي يعد بقرارات أسرع وأكثر اتساقًا. لكن إضافة الرقابة البشرية يبطئ الإجراءات ويرفع التكاليف التشغيلية. التحدي واضح: الأتمتة المطلقة تهدد الثقة والامتثال، بينما المراجعة اليدوية المفرطة تضعف مكاسب الكفاءة. على قادة القطاع العام السعودي ضبط مستوى الرقابة حسب المخاطر والأثر والمتطلبات التنظيمية. القرارات عالية التأثير تتطلب رقابة بشرية أكثر صرامة.
الرقابة البشرية ليست إجراءً شكليًا، بل هي أداة أساسية لحماية المواطنين، والحفاظ على الثقة، وضمان توافق تطبيقات الذكاء الاصطناعي الحكومية مع المعايير الأخلاقية والقانونية في السعودية.
