نویسندگان:
بارند مونساستاد بازنشسته دانشگاه لیدن، عضو هیئت مدیره بنیاد GO FAIR و مدیر LIFES، طرح لیدن برای علم عادلانه و منصفانه
آری باکعضو هیئت مدیره انجمن LIFES برای علم عادلانه و منصفانه
کوئن یونکرس، کمیسیون اروپا، مرکز تحقیقات مشترک (JRC)، بروکسل، بلژیک
هوش مصنوعی در حال تغییر نحوه انجام، انتقال و اعتبارسنجی علم است. این فناوری نویدبخش آیندهای روشن است، تشخیص الگو را در مقیاسهایی که هیچ محقق انسانی نمیتواند با آن برابری کند، تسریع گردش کار و گشودن راههای جدید برای کشف، امکانپذیر میسازد. اما هوش مصنوعی همچنین سریع است، اما عاری از خطا و تبعیضآمیز نیست، در حالی که علم از نظر طراحی زمانبر و دقیق است. تنش بین این دو واقعیت در حال حاضر باعث ایجاد اختلال جدی شده است: سیل انتشارات و دادههای تولید شده توسط هوش مصنوعی، بررسی دقیق و بیکیفیت، یافتههای توهمآلود و اعتماد از دست رفته به سوابق علمی. مجموعه مهارتهای مورد نیاز دانشمندان آینده اساساً در حال تغییر است و سیاستهای علمی با این تغییرات همگام نشدهاند. پرداختن به این شکاف ضروری است.
علم با سرعت قابل توجهی از محیطی با دادههای پراکنده به محیطی غنی از دادهها تبدیل شده است. در حالی که محققان زمانی مجموعه دادههای متوسطی تولید میکردند و یافتهها را عمدتاً از طریق مقالات قابل خواندن توسط انسان منتقل میکردند، اکنون در عصر تولید نمایی دادهها فعالیت میکنند. بخش عمدهای از آن ابعاد بالا، توزیعشده و فقط توسط ماشینها قابل ردیابی است. با این حال، این روند در استفاده مجدد از دادهها منعکس نشده است. برای تغییر این وضعیت، اکنون باید با خود دادهها به عنوان یک خروجی علمی درجه یک رفتار شود، نه یک محصول جانبی مقالات.
ماشینها در یافتن الگوها در مجموعه دادههای بزرگ و پیچیده برتری دارند. اما ماشینها هیچ مدل مفهومی ذاتی از واقعیت مرتبط با انسان ندارند. نتیجه، منبع تقریباً نامحدودی از الگوها است که بسیاری از آنها جعلی و برخی گمراهکننده هستند. چالش اصلی برای نسل بعدی دانشمندان، پیمایش در این جنگل الگوها خواهد بود: تشخیص سیگنال معنادار از نویز آماری. نظارت انسانی اختیاری نیست؛ بلکه از نظر ساختاری ضروری است.
سیاستگذاران همچنین باید آگاه باشند که هوش مصنوعی در علم، فراتر از مدلهای زبان بزرگ، که در حال حاضر بر گفتمان عمومی تسلط دارند، گسترش مییابد. چشمانداز وسیعتر شامل یادگیری ماشینی برای تولید فرضیه، گردشهای کاری تجربی خودکار و استدلال مبتنی بر نمودار دانش است که هر کدام خطرات و فرصتهای متمایزی را به همراه دارند که نیاز به پاسخهای مدیریتی متناسب دارند.
کیفیت خروجی هوش مصنوعی در علم مستقیماً توسط کیفیت دادهها تعیین میشود. ورودیدادههای منصفانه (قابل جستجو، قابل دسترسی، قابل تعامل و قابل استفاده مجدد، و به طور فزایندهای به عنوان کاملاً آماده برای هوش مصنوعی درک میشوند) پیشنیاز اساسی برای علم مسئولانه مبتنی بر هوش مصنوعی است. بدون آن، مدلهای هوش مصنوعی بر اساس محتوای خام، بدون نظارت، بالقوه مغرضانه یا حتی ساختگی آموزش میبینند و توهماتی ایجاد میکنند که ممکن است در زمینههای بالینی تهدیدکننده زندگی باشند و به طور سیستماتیک اعتماد به علم را تضعیف میکنند. به خصوص در مواردی که استفاده مجدد از دادههای به راحتی قابل جستجو عمدتاً توسط بازیگران غیرعلمی مانند شرکتهای فعلی LLM انجام میشود.
استفاده از مدلهای مفهومی FAIR برای محدود کردن هوش مصنوعی به همان اندازه مهم است. خروجیاین مدلها با ارائه چارچوبهای معنایی ساختاریافته، که در آن هر مفهوم به خوبی تعریف شده است، نحوه ارتباط آنها و آنچه به عنوان استنتاج معتبر محسوب میشود، به طور قابل توجهی خطر توهم را کاهش میدهند و به اطمینان از اینکه یافتههای تولید شده توسط هوش مصنوعی توسط انسانها قابل توضیح، تفسیر و تأیید هستند، کمک میکنند.
بحران صداقت در انتشارات علمی، این خطرات را تشدید میکند. سیستمهای هوش مصنوعی اکنون میتوانند تقریباً فوراً مقالات، دادهها و بررسیهایی با ظاهری قابل قبول تولید کنند. تنها در سال ۲۰۲۵، یک کنفرانس پیشرو در حوزه هوش مصنوعی بیش از ۲۰،۰۰۰ مقاله دریافت کرد. این واکنش (استفاده دانشمندان از هوش مصنوعی برای بررسی مقالات تولید شده توسط هوش مصنوعی) خطر ایجاد یک حلقه بازخورد نویز بسته را به همراه دارد که در آن سیستمهای ناقص، یکدیگر را بدون هیچ بررسی خارجی معناداری ارزیابی میکنند. دادههای FAIR که در منبع، جایی که منشأ قابل تأیید است، منتشر میشوند، از قویترین ابزارهای موجود برای مقابله با این روند هستند.
زیربنای همه اینها، یک نقص ساختاری در انگیزهها است. محققان هنوز عمدتاً بر اساس تعداد مقالات و میزان استناد، که معیاری طراحی شده برای دوران کمبود دادهها است، پاداش میگیرند. انتشار دادههای FAIR با کیفیت بالا، شناخت حرفهای کمی را به همراه دارد و هیچ پوشش مالی تضمینشدهای را شامل نمیشود. این باید تغییر کند.
چشمانداز مدیریت فنی دادهها در علم در بحران است. دههها وابستگی به تعداد کمی از ارائهدهندگان بزرگ خدمات ابری، همراه با ابزارهای قانونی مانند قانون ابر ایالات متحده، مشکل حاکمیت دادهها را ایجاد کرده است که اکنون، بهویژه با توجه به بیثباتی اخیر سیاست ایالات متحده و تأثیرات آن بر زیرساختهای تحقیقاتی مشترک بینالمللی، حاد است. بسیاری از منابع اصلی دادههای علمی جهان عملاً خارج از کنترل قضایی مؤسسات و جوامعی هستند که آنها را تولید کردهاند.
اصول FAIR، که توسط اصول CARE (که به حقوق و منافع مردم بومی در مدیریت دادهها میپردازد) تکمیل میشود، چارچوبی منسجم برای مدیریت مسئولانه ارائه میدهد. این اصول در کنار هم، شرایطی را تعریف میکنند که تحت آن دادهها باید باز یا محدود، قابل استفاده مجدد و مستقل باشند. مفهوم اینترنت دادهها و خدمات FAIR (IFDS)، که در آن دادهها در منبع خود باقی میمانند و توسط الگوریتمهای مجاز بازدید میشوند، نه اینکه کپی و متمرکز شوند، یک پاسخ معماری عملی ارائه میدهد. در این مدل، پرسوجوهای محاسباتی به گرههای داده توزیعشده ارسال میشوند. دادهها به مخازن متمرکز ارسال نمیشوند، مگر اینکه اجتنابناپذیر باشد.
مشارکت عادلانه در علم مبتنی بر هوش مصنوعی همچنین مستلزم آن است که این زیرساخت واقعاً قابل دسترسی باشد. مؤسسات و جوامع در کشورهای جنوب جهان نمیتوانند سوژههای منفعل استفاده مجدد از دادهها باشند. در انتهای دیگر طیف اتصال، صنایع دادهمحور نباید مستثنی شوند. زیرساخت توزیعشده FAIR، که برای جلوگیری از وابستگی به فروشنده و نقاط شکست منفرد طراحی شده است، مکانیسمی است که از طریق آن مشارکت معنادار امکانپذیر میشود.
یک پاسخ سیاسی منسجم مستلزم اقدام در چندین جبهه است:
علم یک کالای عمومی جهانی است. نمیتوان یکپارچگی، برابری و باز بودن آن را مفروض گرفت؛ آنها نیازمند انتخابهای فعال در سیاستگذاری هستند. دریچهای برای ایجاد حاکمیت صحیح برای هوش مصنوعی در تولید علمی باز است، اما این وضعیت به طور نامحدود باقی نخواهد ماند. تصمیماتی که اکنون در مورد استانداردهای دادهها، زیرساختها، مشوقها و نظارت گرفته میشود، تعیین خواهد کرد که آیا هوش مصنوعی علم قابل اعتماد را تسریع میکند یا به طور سیستماتیک آن را تضعیف میکند.
عکس از گتی ایمیجز برای آنسپلش+
این وبلاگ که با همکاری شورای بینالمللی علوم (ISC) و آزمایشگاههای سیاستگذاری مرزی (Frontiers Policy Labs) میزبانی میشود، بخشی از ... «حکمرانی نوین برای علم در قرن بیست و یکم»' این مجموعه به عنوان یک انجمن بحث پویا برای رهبری فکری در مورد آینده حکمرانی علمی عمل میکند. این ابتکار با فاصله گرفتن از مطالعات آکادمیک سختگیرانه، صداهای پیشرو جهانی را گرد هم میآورد تا نظرات تیزبینانه، تحریکآمیز اما مبتنی بر شواهد و آیندهنگر ارائه دهد. با انجام این کار، میخواهد در تعریف یک مدل حکمرانی انعطافپذیر، فراگیر و شفاف که برای چالشهای فردا مجهز شده است، مشارکت کند.
پست اصلی را ببینید اینجا کلیک نمایید.
رفع مسئولیت
اطلاعات، نظرات و توصیههای ارائه شده در وبلاگهای مهمان ما، متعلق به مشارکتکنندگان انفرادی است و لزوماً منعکسکننده ارزشها و باورهای شورای بینالمللی علوم نیست.
درباره فناوریها و تحولات نوظهور بیشتر بخوانید بیشتر بخوانید درباره علم مدرن: محرکهای ژئواستراتژیک، فناوری و اجتماعی تغییر بیشتر بخوانید درباره علم سازمانیافته در عصر هوش مصنوعی: آیا ما پشت فرمان خواب هستیم؟ 
بیشتر بخوانید درباره آکادمی علوم پاسیفیک اولین پلتفرم تحقیقاتی مبتنی بر هوش مصنوعی و گزارش ارزیابی تحقیق و توسعه منطقهای را راهاندازی کرد 