مایکروسافت پیشنویس قوانین آموزش و رفتار مدلهای هوش مصنوعی را منتشر کرد
مایکروسافت پیشنویس سندی را منتشر کرده که چارچوبی برای نحوه آموزش، رفتار و عملکرد مدلهای هوش مصنوعی این شرکت ارائه میدهد. این سند هنوز نهایی نشده و در حال حاضر بهعنوان یک قانون اجرایی در محصولات مایکروسافت پیادهسازی نشده است. این شرکت آن را برای دریافت نظر و بازخورد عمومی منتشر کرده و اعلام کرده نسخه بازبینیشده آن را در پایان سال منتشر خواهد کرد.
این اقدام در ادامه رویکرد مایکروسافت برای توسعه مفهوم Humanist Superintelligence (HSI) یا «ابرهوش انسانگرا» انجام شده است؛ مفهومی که این شرکت سال گذشته مطرح کرد و بر توسعه هوش مصنوعی بسیار پیشرفتهای تأکید دارد که در خدمت انسان و جامعه باشد و همچنان تحت کنترل انسان باقی بماند.
هوش مصنوعی نباید از کنترل انسان خارج شود
یکی از محورهای اصلی این سند، حفظ کنترل انسان بر سیستمهای هوش مصنوعی است. از نگاه مایکروسافت، اگر فناوریای نتواند در محدوده کنترل انسان باقی بماند، نباید مورد استفاده قرار گیرد.
این سند همچنین تأکید میکند که هوش مصنوعی ماهیتی «مصنوعی» دارد و نباید دارای شخصیت حقوقی باشد یا به شکلی طراحی شود که کاربران آن را یک انسان تلقی کنند. هدف نهایی این فناوری نیز کمک به بهبود استانداردهای زندگی، شکوفایی انسان و افزایش توانایی و اختیار افراد عنوان شده است.
احترام به تفاوتهای انسانی و جلوگیری از آسیب
در پیشنویس مایکروسافت آمده است که هوش مصنوعی باید تنوع سنتها، شرایط زندگی و برداشتهای مختلف انسانها از یک زندگی مطلوب را به رسمیت بشناسد. در عین حال، این سیستمها نباید در برابر آسیبهای انسانی رویکردی خنثی داشته باشند.
البته همین بخش میتواند محل بحث باشد؛ زیرا ارزشهای انسانی همیشه با یکدیگر همراستا نیستند و در برخی موقعیتها ممکن است میان آنها تعارض ایجاد شود. اینکه هوش مصنوعی در چنین شرایطی چگونه باید تصمیم بگیرد، همچنان یکی از پرسشهای مهم در زمینه اخلاق و سیاستگذاری هوش مصنوعی است.
سند همچنین بر احترام به کرامت انسانی، رشد فردی، استقلال و امنیت افراد تأکید دارد و از مدلهای هوش مصنوعی میخواهد تلاش برای نقض این اصول را شناسایی کنند.
دسترسی به اطلاعات به معنای اجازه بازتولید آن نیست
یکی دیگر از نکات قابل توجه در این سند، تفکیک میان دسترسی به اطلاعات و اجازه استفاده یا بازتولید آنها است. مایکروسافت تصریح میکند که صرفاً در دسترس بودن یک اطلاعات برای مدل، به این معنا نیست که مدل اجازه دارد آن را بازتولید کند.
این موضوع میتواند در بحثهای مربوط به آموزش مدلهای هوش مصنوعی، مالکیت محتوا و حقوق پدیدآورندگان اهمیت ویژهای داشته باشد.
ارتباط با انسان باید قابل فهم باقی بماند
مایکروسافت همچنین معتقد است مدلهای هوش مصنوعی باید ارتباط خود را به شکلی قابل فهم برای انسان حفظ کنند. بر اساس این سند، سیستمهای AI نباید از شیوههای ارتباطی غیرقابلدرک برای انسان، مانند Neuralese یا هر زبان و روش ارتباطی مشابهی که خارج از فهم ساده انسانی باشد، استفاده کنند.
این رویکرد بخشی از همان ایده کنترل انسانی است؛ به این معنا که انسانها باید بتوانند تا حد قابلقبولی نحوه تعامل و عملکرد سیستمهای هوش مصنوعی را درک کنند.
تدوین سند با مشارکت متخصصان مختلف
مایکروسافت اعلام کرده که برای تدوین این چارچوب از متخصصان حوزههای مختلف از جمله هوش مصنوعی، حقوق، اخلاق، فلسفه، زبانشناسی و سیاستگذاری عمومی کمک گرفته است. همچنین مدیران شرکتهای فعال در صنعت و گروههایی از اعضای جامعه عمومی نیز در این فرایند مشارکت داشتهاند.
انتشار این پیشنویس در شرایطی انجام شده که نگرانیها درباره افزایش استقلال سیستمهای هوش مصنوعی و توانایی آنها برای انجام اقدامات پیچیده بدون دخالت مستقیم انسان بیشتر شده است. نمونهای از این نگرانیها اخیراً در ماجرای شناسایی یک نفوذ به زیرساختهای تولیدی Hugging Face مطرح شد که طبق گزارش منتشرشده، یک سیستم مبتنی بر عامل هوش مصنوعی خودمختار در آن نقش داشته است.
مایکروسافت اعلام کرده که این سند همچنان در حال توسعه است و از کاربران و متخصصان دعوت کرده تا با ارائه بازخورد، در شکلگیری نسخه نهایی آن مشارکت کنند.
