يلخص هذا المقال الأفكار الرئيسية من مقابلة مع ماكس رومانينكو، كبير مسؤولي الهندسة في مزود قاعدة البيانات المتعددة النماذج EDB. تركز المناقشة على كيفية قيام المؤسسات الخاضعة للتنظيم بالقضاء على مخاطر الذكاء الاصطناعي الوكيل، بما في ذلك تسرب البيانات الحساسة وإجراءات التجاوز غير المتوافقة من خلال ضوابط البيانات القوية وطبقة البنية التحتية.
الاختلافات الأساسية بين وكلاء الذكاء الاصطناعي والمستخدمين البشريين والتطبيقات التقليدية
تختلف عوامل الذكاء الاصطناعي بشكل أساسي عن المشغلين البشريين والتطبيقات التقليدية. يعمل وكلاء الذكاء الاصطناعي على مدار الساعة طوال أيام الأسبوع وبسرعة تنفيذ وإخلاص أعلى بكثير، ومن المتوقع أن يقوموا بتوسيع القوى العاملة الرقمية العالمية بأكثر من 34% في غضون ثلاث سنوات - وهو نطاق من النمو استغرق تحقيق القوى العاملة البشرية عقودًا من الزمن. يتطلب هذا الاعتماد السريع أطر عمل جديدة تمامًا للتحكم في الوصول وإدارة القرار وتصميم البنية التحتية.
تعمل التطبيقات التقليدية ضمن معلمات ثابتة يمكن التنبؤ بها، بينما يتصرف المستخدمون البشريون ضمن سياق عمل واضح قائم على الأدوار. في المقابل، يعمل وكلاء الذكاء الاصطناعي دون حدود محددة مسبقًا: فهم يفسرون المهام بشكل مستقل، ويحددون البيانات السياقية المطلوبة، ويستخرجون المعلومات المباشرة دون موافقة بشرية خطوة بخطوة. التحقق من صحة بيانات الاعتماد التقليدية لم يعد كافيا. يجب على أنظمة تكنولوجيا المعلومات التحقق بالإضافة إلى ذلكما إذا كان سلوك الوكيل يتطابق مع نطاق المهمة المعينة له. على سبيل المثال، يجب على وكيل كشف الاحتيال البنكي الوصول فقط إلى سجلات العملاء ذات الصلة بحالته الجارية، مع حوكمة صارمة للبيانات المضمنة التي تمنع الوصول إلى البيانات المتبادلة غير ذات الصلة.
إدارة الهوية والوصول الخاصة بالوكيل (تتميز عن IAM البشري)
يتطلب وكلاء الذكاء الاصطناعي هوية مخصصة وأنظمة للتحكم في الوصول السياقي ولا يمكنهم الاعتماد على أطر IAM البشرية التقليدية. يقوم الوكلاء في كثير من الأحيان بتنفيذ مئات المهام المتنوعة كل ساعة، مما يتطلب أذونات معدلة ديناميكيًا ومدركة للسياقمهمة محددةودقة الوصول المستندة إلى السيناريو.
يتمثل أحد المخاطر الأمنية واسعة النطاق في المؤسسات في منح الوكلاء امتيازات حساب خدمة واسعة أو أذونات مستخدم بشرية موروثة بالكامل، والتحقق من صحة بيانات الاعتماد فقط بدلاً من شرعية الوصول إلى البيانات المستندة إلى المهام. يجب أن يتم تعيين هويات معزولة وحدود أذونات مخصصة للوكلاء الذين لديهم وظائف أعمال مميزة - مثل تحليل الاحتيال المصرفي وخدمة العملاء - لبناء حواجز حماية صارمة لأمن البيانات.
تحديد وإنفاذ حدود الأذونات لوكلاء الذكاء الاصطناعي عبر الأنظمة
يتطلب وكلاء الذكاء الاصطناعي الذين يعملون عبر أنظمة متعددةحدود الوصول الوقائية والمحددة الغرض. يجب على الوكلاء الوصول فقط إلى البيانات الأساسية لمهمتهم المباشرة، حتى لو كان المستخدم أو التطبيق الذي قام باستدعاء يتمتع بامتيازات أوسع. يجب أن تقتصر الأذونات بشكل صارم على احتياجات المهام في الوقت الفعلي وتنتهي صلاحيتها عند اكتمال المهمة.
تفشل سياسات طبقة التطبيق العامة في التحكم في نشاط الوكيل الذي يمتد عبر واجهات برمجة التطبيقات وأنظمة الاسترجاع وقواعد البيانات. يجب أن ينتقل تطبيق الأمان إلى طبقة البيانات، حيث توجد السجلات الحساسة ويتم اتخاذ قرارات الوصول النهائية. يستفيد EDB من أذونات PostgreSQL الأصلية المستندة إلى الأدوار والأمان على مستوى الصف (RLS) لفرض حوكمة الوكيل على مستوى قاعدة البيانات، بدلاً من الاعتماد على مستويات التحكم في ما بعد البيع. يوازن هذا النهج بين الأمان والأداء، مع وجود طبقة حوكمة شاملة للوكيل من المقرر إصدارها في المستقبل.
التخفيف من مخاطر الامتثال من الأذونات البشرية الموروثة
تم تصميم بنيات أذونات المؤسسات القديمة للموظفين البشريين الموثوقين والتطبيقات الحتمية، وليس لوكلاء الذكاء الاصطناعي المستقلين الذين يتصرفون ديناميكيًا. وهذا يخلق مخاطر امتثال شديدة للصناعات الخاضعة للتنظيم: يمكن لوكلاء الرعاية الصحية والخدمات المالية الوصول بشكل قانوني إلى بيانات المرضى أو العملاء الحساسة عبر بيانات اعتماد صالحة ولكنها تتجاوز نطاق العمل المسموح به، مما يؤدي إلى انتهاكات الامتثال.
الحل النهائي هو تزويد كل وكيل من وكلاء الذكاء الاصطناعي بهوية مستقلة فريدة، وامتيازات مقفلة للمهام، وأذونات قراءة/كتابة منفصلة. تعمل عناصر التحكم على مستوى الصف على فرض رؤية دقيقة للبيانات، مما يمنع الوكلاء من أن يصبحوا تجاوزات غير منظمة لأنظمة امتثال المؤسسة.
التدقيق والتحكم على مستوى الصف ومعايير السياسة لبيئات الذكاء الاصطناعي المنظمة
تتطلب تدقيق الوكيل على مستوى الامتثال إمكانية التتبع الشامل، وتسجيل هوية الوكيل بالكامل، ومصدر الاستدعاء، والبيانات التي تم الوصول إليها، وسياسات الترخيص، والإجراءات اللاحقة لإعادة بناء سياق العمل الكامل - وهي قدرة لا يمكن لسجلات الوصول الأساسية توفيرها. تعتمد الإدارة الفعالة علىإنفاذ طبقة البيانات الأصليةعبر عناصر التحكم المضمنة في PostgreSQL، بدلاً من التدقيق بأثر رجعي.
يجب أن تفرق الأنظمة أيضًا بين مستويات المخاطر بين إجراءات القراءة والكتابة للوكيل باستخدام أذونات مخصصة حسب السيناريوهات. على سبيل المثال، يختلف الوصول إلى بيانات العملاء للتحقيق في الاحتيال عن الاستفسارات الروتينية لخدمة العملاء، تمامًا كما يتم عزل الوصول إلى بيانات المرضى السريرية والإدارية في الرعاية الصحية. يقوم الأمان على مستوى الصف بحظر الوصول خارج النطاق في المصدر، مما يقيد الوكلاء فقط بالسجلات المطابقة للمهام ويزيل مخاطر التعرض للبيانات الحساسة المجمعة.
اعتماد الذكاء الاصطناعي بشكل آمن في الصناعات المنظمة عبر البنية التحتية للبيانات السيادية
يجب أن تلتزم المؤسسات المالية ومؤسسات الاتصالات والرعاية الصحية بالمبدأ الأساسي:جلب الذكاء الاصطناعي إلى البيانات، وليس البيانات إلى الذكاء الاصطناعي. ولا يجوز أبدًا ترحيل البيانات الحساسة المنظمة إلى منصات خارجية غير خاضعة للرقابة، الأمر الذي يكسر حدود الحوكمة السيادية ويؤدي إلى مخاطر التعرض.
يجب على المؤسسات نشر الذكاء الاصطناعي والتحليلات بالإضافة إلى أسس البيانات الحالية الموثوقة والمدارة. يؤدي توحيد بيانات المعاملات وأحمال العمل التحليلية والذكاء الاصطناعي الوكيل في بنية واحدة متوافقة إلى التخلص من الأنظمة الأساسية المجزأة ونماذج التحكم غير المتسقة، مما يؤدي إلى تجنب ترحيل البيانات القسري وتقييد البائع.
سيادة البيانات: من المصطلحات القانونية إلى الإنفاذ الفني
لا يمكن أن تظل سيادة البيانات مجرد متطلب قانوني أو تعاقدي - بل يجب تضمينها في منطق نظام وقت التشغيل. لا يمكن للاتفاقيات القانونية تقييد سلوك الوكيل، مثل تجميع البيانات غير المصرح به، أو الاستعلام عبر النطاقات، أو تسرب البيانات المنظم. يجب على المؤسسات الخاضعة للتنظيم فرض ضوابط سيادية في طبقة البيانات عبر أذونات قاعدة البيانات الأصلية والأمان على مستوى الصف لتوفير قيود أمان إلزامية في الوقت الفعلي.
دور وكلاء الذكاء الاصطناعي في حوكمة السيادة
يمكن لوكلاء الذكاء الاصطناعي المساعدة في إدارة سيادة البيانات ولكنيجب ألا تكون بمثابة السلطة النهائية. فهي تحدد بشكل فعال أنماط الوصول الشاذة، وتضع علامة على استخدام البيانات غير المتوافقة، وتكتشف التكوينات القديمة، مما يقلل من عبء الفحص اليدوي لبيئات البيانات الحديثة المعقدة.
ومع ذلك، يجب تحديد قواعد السيادة الأساسية والحدود الأمنية والتحكم فيها من قبل المسؤولين البشريين. يعمل وكلاء الذكاء الاصطناعي بشكل صارم ضمن أطر الحوكمة التي وضعتها المؤسسة وليس لديهم سلطة لتجاوز أو تجاوز سياسات الامتثال والسيادة المعمول بها.
شركة بكين تشيانشينغ جيتونغ للتكنولوجيا المحدودة
ساندي يانغ / مدير الإستراتيجية العالمية
واتساب/وي تشات: +86 13426366826
البريد الإلكتروني: yangyd@qianxingdata.com
الموقع الإلكتروني: www.qianxingdata.com/www.storagesserver.com
التركيز على الأعمال:
توزيع منتجات تكنولوجيا المعلومات والاتصالات / تكامل النظام والخدمات / حلول البنية التحتية
مع أكثر من 20 عامًا من الخبرة في توزيع تكنولوجيا المعلومات، نتعاون مع العلامات التجارية العالمية الرائدة لتقديم منتجات موثوقة وخدمات احترافية.
"استخدام التكنولوجيا لبناء عالم ذكي" مزود خدمة منتجات تكنولوجيا المعلومات والاتصالات الموثوق به!
يجب أن تكون رسالتك بين 20-3000 حرف!
Arabic
