حکمرانی پویا نیاز امروز برای توسعه فناوری هوش مصنوعی
هوش مصنوعی با افزایش روزافزون محبوبیت مدل‌های زبانی بزرگ (LLM) بیش از گذشته پیچیده شده است؛ امری که نشان‌دهنده تغییر الگو در توسعه این فناوری است محسوب می‌شود. مدل‌های زبانی بزرگ با استفاده از هوش مصنوعی مولد بر پایه زبان طبیعی، کد یا هر نوع داده دیگری برای ایجاد پاسخ‌های جدید و بدیع به فرمان‌های کاربران به کار می‌روند. آن‌ها همچنین می‌توانند، به عنوان پایه و اساس بسیاری از مدل‌های کوچک و تخصصی برای کارهای خاص مورد استفاده قرار گیرند.
به گزارش زاویه؛ از سوی دیگر، این مدل‌ها موجی از نگرانی‌ها را نسبت به مخاطرات توسعه و استقرار هوش مصنوعی در موضوعات اخلاقی و اجتماعی و احتمال سوءاستفاده بازیگران مخرب برانگیخته‌اند. در چنین شرایطی جهان در تلاش است که در سطح شرکتی، ملی و جهانی با خطرات هوش مصنوعی مقابله و اطمینان حاصل کند که این فناوری امن، ایمن، معتبر و منصفانه است. وبگاه مجمع جهانی اقتصاد، اخیراً طی گزارشی به بررسی این مفهوم نوظهور و نسبت آن با فناوری هوش مصنوعی پرداخته است.
به عقیده کارشناسان، اهداف مذکور، زیربنای ائتلاف حکمرانی هوش مصنوعی (AI Govenance Alliance) مجمع جهانی اقتصاد، اتحاد هوش مصنوعی اروپا (European AI Alliance) و همچنین ابتکارات خاص برخی کشورها از جمله دولت سوئیس و دانشگاه صنعتی زوریخ با عنوان «Pilot Gen AI Redteaming Network» محسوب می‌شود.
در مقطع کنونی که بشر خود و زندگی روزمره‌اش را بیش از پیش تحت تأثیر این فناوری جدید می‌بیند، قانون هوش مصنوعی اتحادیه اروپا تقریباً در مراحل نهایی تدوین قرار دارد. برآوردهای صورت گرفته حاکی از آن است که قانون مذکور با هدف محافظت از ایمنی و حقوق اساسی بشر به زودی به اولین مجموعه جامع قوانین هوش مصنوعی جهان تبدیل خواهد شد.
در چنین شرایطی، تدوین و اجرای مقررات کارآمد برای فناوری امری حیاتی بوده؛ اما به هیچ وجه کافی نیست. حوزه هوش مصنوعی به حدی سریع در حال پیشرفت است که مقررات می‌توانند، به مثابه چوب لای چرخ آن عمل کنند و برای این فناوری نوظهور محدودیت‌هایی ایجاد کنند. بنابراین، جهت اتخاذ رویکردی جامع برای تنظیم‌گری و حکمرانی شرکتی هوش مصنوعی نیاز است که مقررات حوزه فناوری با تلاش برای پذیرش اکوسیستمی باز و شفاف ترکیب شود. این رویکرد به توسعه‌دهندگان و محققان کمک می‌کند تا با استفاده از حکمرانی پویا (dynamic govenance) به مصاف مخاطرات و چالش‌های هوش مصنوعی بروند.
حکمرانی پویا چیست؟
حکمرانی پویا که عنوان حکمرانی چابک نیز شناخته می‌شود، رویکردی برای مدیریت و رهبری سازمان‌ها است که بر سازگاری، پاسخگویی و مشارکت در مواجهه با محیط‌های پیچیده و به سرعت در حال تغییر تأکید دارد. با توسعه فناوری و افزایش سرعت تحولات جهان، این مفهوم در بخش‌های مختلف از جمله مدیریت دولتی، حکمرانی شرکتی و توسعه سازمانی اهمیت بسیاری پیدا کرده است.
واقعیت آن است که مدل‌های زبانی بزرگ به طور مداوم تحت تأثیر داده‌های جدید قرار می‌گیرند و در این میان، برخی درخواست‌های خاص کاربران می‌تواند، نتایج نامطلوب یا غیرقابل پیش‌بینی ایجاد کند. از همین روی، پایش و نظارت مداوم مدل‌های شخصی، داده‌های دریافتی و نتایج برای شرکت‌ها ضروری و حائز اهمیت است. آن‌ها باید اطمینان حاصل کنند که همه چیز طبق برنامه و اصول اساسی پیش می‌رود.
ابزارهای حکمرانی خاص مانند «Watsonx.gov»، متعلق به شرکت «IBM» که سیستم‌ها و فرآیندهایی برای کمک به سنجش حکمرانی شرکت‌ها را شامل می‌شود، به نظارت و بهبود مستمر نتایج توسط کسب‌وکارها کمک شایانی می‌کنند. این امر به شرکت‌ها اجازه می‌دهد، مخاطرات ناشی از کیفیت داده‌های آموزشی را با بهبود شفافیت درباره نحوه تصمیم‌گیری هوش مصنوعی و اطمینان از انطباق با مقررات فناوری، حتی با تغییر قوانین در طول زمان، مدیریت کنند.
به عقیده بسیاری از کارشناسان، چنین الگویی از حکمرانی باید صرف نظر از اینکه هوش مصنوعی در محیطی بسته و اختصاصی یا اکوسیستمی باز توسعه یافته است، به صورت گسترده مورد استفاده قرار گیرد. اگرچه برخی از شرکت‌ها ترجیح می‌دهند فناوری هوش مصنوعی خود را به صورت اختصاصی و بسته توسعه دهند؛ اما استقبال از هوش مصنوعی باز و شفاف می‌تواند به نفع جامعه باشد، نوآوری را افزایش دهد و به اطمینان از ایمنی این فناوری کمک کند.
از همین روی، متخصصان مجمع جهانی اقتصاد معتقدند که باز بودن و شفافیت، استعدادهای نوآورانه جامعه جهانی را شکوفا و مسئولیت‌پذیری را تضمین می‌کند. این فرآیند همچنین منجر به بررسی بیشتر ابزارهای جدید توسط جامعه فناوری می‌شود و ایمنی و امنیت را افزایش می‌دهد.
به عقیده آن‌ها، بنیاد لینوکس، پلتفرم نرم‌افزار منبع باز که در سال ۲۰۰۷ به عنوان یک سازمان غیرانتفاعی برای تقویت نوآوری‌های فناورانه راه‌اندازی شد، مصداق بارز این ادعا محسوب می‌شود. به عبارت دیگر باز بودن، امکان بررسی دقیق‌تر جامعه فناوری را فراهم می‌آورد و دسترسی به ممیزی را به‌طور گسترده برای کارشناسان سراسر جهان امکان‌پذیر می‌کند. محققان و توسعه‌دهندگان به داده‌های مورد نیاز برای رفع اشکالات و مقابله با خطرات دسترسی دارند و می‌توانند، با سرعت به مشکلات فنی و مرتبط با نتیجه واکنش نشان دهند.
ایجاد جامعه هوش مصنوعی باز
شرکت‌های بزرگ فناوری از جمله «IBM» و «متا» نیز با برخورداری از بینش مطرح شده در این نوشتار تصمیم به تشکیل اتحاد هوش مصنوعی گرفتند. بر اساس ادعای مطرح شده از سوی ذی‌نفعان، هدف از این اقدام، همکاری دو شرکت با یکدیگر برای تقویت یک جامعه هوش مصنوعی باز است. طرفین همچنین اذعان دارند که مدل‌های زبانی بزرگ باید از پایین به بالا به شیوه‌ای شفاف و مسئولانه ایجاد شوند.
نکته جالب توجه دیگر این که اگرچه هدف ابتکاراتی مانند اتحاد هوش مصنوعی گرد هم آوردن استعدادهای جهانی برای دموکراتیک کردن توسعه، استقرار و مدیریت فناوری هوش مصنوعی است؛ اما لازم نیست که این فناوری تماما باز باشد. مهم‌تر این که باز بودن به معنای عدم اعمال حکمرانی نیست. حکمرانی هم برای هوش مصنوعی باز و هم اختصاصی حائز اهمیت است.
حقیقت این است که بشر هنوز در ابتدای راه درک هوش مصنوعی، نحوه تأثیرگذاری آن بر آینده و الگوی مطلوب حکمرانی دولتی و شرکتی آن قرار دارد. هیچ متخصصی نمی‌تواند با اطمینان مدعی شود که می‌داند هوش مصنوعی چگونه جامعه را متحول خواهد کرد. با این وجود، ناگفته پیدا است که تنظیم‌گری این فناوری در این مقطع زمانی بسیار حساس و ضروری است. در این وضعیت، پذیرش فناوری حکمرانی پویا و اکوسیستم هوش مصنوعی باز گام‌های حیاتی در جهت تنظیم صحیح این فناوری به شمار می‌روند.
به گزارش زاویه؛ از سوی دیگر، این مدل‌ها موجی از نگرانی‌ها را نسبت به مخاطرات توسعه و استقرار هوش مصنوعی در موضوعات اخلاقی و اجتماعی و احتمال سوءاستفاده بازیگران مخرب برانگیخته‌اند. در چنین شرایطی جهان در تلاش است که در سطح شرکتی، ملی و جهانی با خطرات هوش مصنوعی مقابله و اطمینان حاصل کند که این فناوری امن، ایمن، معتبر و منصفانه است. وبگاه مجمع جهانی اقتصاد، اخیراً طی گزارشی به بررسی این مفهوم نوظهور و نسبت آن با فناوری هوش مصنوعی پرداخته است.
به عقیده کارشناسان، اهداف مذکور، زیربنای ائتلاف حکمرانی هوش مصنوعی (AI Govenance Alliance) مجمع جهانی اقتصاد، اتحاد هوش مصنوعی اروپا (European AI Alliance) و همچنین ابتکارات خاص برخی کشورها از جمله دولت سوئیس و دانشگاه صنعتی زوریخ با عنوان «Pilot Gen AI Redteaming Network» محسوب می‌شود.
در مقطع کنونی که بشر خود و زندگی روزمره‌اش را بیش از پیش تحت تأثیر این فناوری جدید می‌بیند، قانون هوش مصنوعی اتحادیه اروپا تقریباً در مراحل نهایی تدوین قرار دارد. برآوردهای صورت گرفته حاکی از آن است که قانون مذکور با هدف محافظت از ایمنی و حقوق اساسی بشر به زودی به اولین مجموعه جامع قوانین هوش مصنوعی جهان تبدیل خواهد شد.
در چنین شرایطی، تدوین و اجرای مقررات کارآمد برای فناوری امری حیاتی بوده؛ اما به هیچ وجه کافی نیست. حوزه هوش مصنوعی به حدی سریع در حال پیشرفت است که مقررات می‌توانند، به مثابه چوب لای چرخ آن عمل کنند و برای این فناوری نوظهور محدودیت‌هایی ایجاد کنند. بنابراین، جهت اتخاذ رویکردی جامع برای تنظیم‌گری و حکمرانی شرکتی هوش مصنوعی نیاز است که مقررات حوزه فناوری با تلاش برای پذیرش اکوسیستمی باز و شفاف ترکیب شود. این رویکرد به توسعه‌دهندگان و محققان کمک می‌کند تا با استفاده از حکمرانی پویا (dynamic govenance) به مصاف مخاطرات و چالش‌های هوش مصنوعی بروند.
حکمرانی پویا چیست؟
حکمرانی پویا که عنوان حکمرانی چابک نیز شناخته می‌شود، رویکردی برای مدیریت و رهبری سازمان‌ها است که بر سازگاری، پاسخگویی و مشارکت در مواجهه با محیط‌های پیچیده و به سرعت در حال تغییر تأکید دارد. با توسعه فناوری و افزایش سرعت تحولات جهان، این مفهوم در بخش‌های مختلف از جمله مدیریت دولتی، حکمرانی شرکتی و توسعه سازمانی اهمیت بسیاری پیدا کرده است.
واقعیت آن است که مدل‌های زبانی بزرگ به طور مداوم تحت تأثیر داده‌های جدید قرار می‌گیرند و در این میان، برخی درخواست‌های خاص کاربران می‌تواند، نتایج نامطلوب یا غیرقابل پیش‌بینی ایجاد کند. از همین روی، پایش و نظارت مداوم مدل‌های شخصی، داده‌های دریافتی و نتایج برای شرکت‌ها ضروری و حائز اهمیت است. آن‌ها باید اطمینان حاصل کنند که همه چیز طبق برنامه و اصول اساسی پیش می‌رود.
ابزارهای حکمرانی خاص مانند «Watsonx.gov»، متعلق به شرکت «IBM» که سیستم‌ها و فرآیندهایی برای کمک به سنجش حکمرانی شرکت‌ها را شامل می‌شود، به نظارت و بهبود مستمر نتایج توسط کسب‌وکارها کمک شایانی می‌کنند. این امر به شرکت‌ها اجازه می‌دهد، مخاطرات ناشی از کیفیت داده‌های آموزشی را با بهبود شفافیت درباره نحوه تصمیم‌گیری هوش مصنوعی و اطمینان از انطباق با مقررات فناوری، حتی با تغییر قوانین در طول زمان، مدیریت کنند.
به عقیده بسیاری از کارشناسان، چنین الگویی از حکمرانی باید صرف نظر از اینکه هوش مصنوعی در محیطی بسته و اختصاصی یا اکوسیستمی باز توسعه یافته است، به صورت گسترده مورد استفاده قرار گیرد. اگرچه برخی از شرکت‌ها ترجیح می‌دهند فناوری هوش مصنوعی خود را به صورت اختصاصی و بسته توسعه دهند؛ اما استقبال از هوش مصنوعی باز و شفاف می‌تواند به نفع جامعه باشد، نوآوری را افزایش دهد و به اطمینان از ایمنی این فناوری کمک کند.
از همین روی، متخصصان مجمع جهانی اقتصاد معتقدند که باز بودن و شفافیت، استعدادهای نوآورانه جامعه جهانی را شکوفا و مسئولیت‌پذیری را تضمین می‌کند. این فرآیند همچنین منجر به بررسی بیشتر ابزارهای جدید توسط جامعه فناوری می‌شود و ایمنی و امنیت را افزایش می‌دهد.
به عقیده آن‌ها، بنیاد لینوکس، پلتفرم نرم‌افزار منبع باز که در سال ۲۰۰۷ به عنوان یک سازمان غیرانتفاعی برای تقویت نوآوری‌های فناورانه راه‌اندازی شد، مصداق بارز این ادعا محسوب می‌شود. به عبارت دیگر باز بودن، امکان بررسی دقیق‌تر جامعه فناوری را فراهم می‌آورد و دسترسی به ممیزی را به‌طور گسترده برای کارشناسان سراسر جهان امکان‌پذیر می‌کند. محققان و توسعه‌دهندگان به داده‌های مورد نیاز برای رفع اشکالات و مقابله با خطرات دسترسی دارند و می‌توانند، با سرعت به مشکلات فنی و مرتبط با نتیجه واکنش نشان دهند.
ایجاد جامعه هوش مصنوعی باز
شرکت‌های بزرگ فناوری از جمله «IBM» و «متا» نیز با برخورداری از بینش مطرح شده در این نوشتار تصمیم به تشکیل اتحاد هوش مصنوعی گرفتند. بر اساس ادعای مطرح شده از سوی ذی‌نفعان، هدف از این اقدام، همکاری دو شرکت با یکدیگر برای تقویت یک جامعه هوش مصنوعی باز است. طرفین همچنین اذعان دارند که مدل‌های زبانی بزرگ باید از پایین به بالا به شیوه‌ای شفاف و مسئولانه ایجاد شوند.
نکته جالب توجه دیگر این که اگرچه هدف ابتکاراتی مانند اتحاد هوش مصنوعی گرد هم آوردن استعدادهای جهانی برای دموکراتیک کردن توسعه، استقرار و مدیریت فناوری هوش مصنوعی است؛ اما لازم نیست که این فناوری تماما باز باشد. مهم‌تر این که باز بودن به معنای عدم اعمال حکمرانی نیست. حکمرانی هم برای هوش مصنوعی باز و هم اختصاصی حائز اهمیت است.
حقیقت این است که بشر هنوز در ابتدای راه درک هوش مصنوعی، نحوه تأثیرگذاری آن بر آینده و الگوی مطلوب حکمرانی دولتی و شرکتی آن قرار دارد. هیچ متخصصی نمی‌تواند با اطمینان مدعی شود که می‌داند هوش مصنوعی چگونه جامعه را متحول خواهد کرد. با این وجود، ناگفته پیدا است که تنظیم‌گری این فناوری در این مقطع زمانی بسیار حساس و ضروری است. در این وضعیت، پذیرش فناوری حکمرانی پویا و اکوسیستم هوش مصنوعی باز گام‌های حیاتی در جهت تنظیم صحیح این فناوری به شمار می‌روند.
