چرا دانشمندان به هوش مصنوعی زیاده اعتماد دارند و چه باید کرد؟
تاریخ انتشار: ۲۱ اسفند ۱۴۰۲ | کد خبر: ۳۹۹۲۹۷۶۱
به گزارش گروه پژوهش و دانش خبرگزاری علم و فناوری آنا به نقل از مجلۀ نیچر؛ دانشمندان به طور فزایندهای از فناوری هوش مصنوعی در زمینههای مختلف استفاده میکنند. بهرهگیری از هوش مصنوعی از ایجاد آزمایشگاههای «خودگردان»، که در آن رباتها و الگوریتمها برای طراحی و اجرای آزمایشها با یکدیگر همکاری میکنند، تا جایگزین کردن شرکتکنندگان انسانی در مطالعات علوم اجتماعی با رباتها پیش رفته است.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
با این همه، اشکالات متعددی در مورد سیستمهای هوش مصنوعی مطرح شده است. به عنوان مثال، هوش مصنوعی مولد مانند چتجیپیتی (ChatGPT) تمایل دارند اطلاعات ساختگی یا اصطلاحاً «توهم» فراهم کنند. این در حالی است که عملکرد درونی سیستمهای یادگیری ماشینی مبهم و ناشناخته مانده است.
اخیراً مقالهای با عنوان «هوش مصنوعی و توهم ادراک در پژوهش علمی» در مجلۀ نیچر منتشر شده است که همین نگرانیها را برجسته میکند. به گفتۀ نویسندگان این مقاله، محققان ممکن است سیستمهای هوش مصنوعی را از نظر عینیت، بهرهوری و درک مفاهیم پیچیده، دارای قابلیتهای مافوق بشری بدانند. این تصور میتواند محققان را به نادیده گرفتن محدودیتهای این ابزارها سوق دهد، که به طور بالقوه دامنۀ تحقیقات علمی را محدود میکند یا به اشتباه توصهم ادراک را در کاربر ایجاد میکند.
نویسندگان بر اهمیت ارزیابی این خطرات تأکید میکنند، بهویژه در زمانۀ کنونی که برنامههای کاربردی هوش مصنوعی هنوز در مراحل اولیه خود هستند. آنها هشدار میدهند که اگر ابزارهای هوش مصنوعی در فرآیند تحقیق جایگاه ثابتی پیدا کنند، پرداختن به این مسائل بسیار چالشبرانگیزتر نیز میشود. هدف از این مقاله آن است که از هم اکنون به دانشمندان هشدار دهد تا خطرات مربوط به استفاده از سیستمهای هوش مصنوعی را در نظر بگیرند.
نویسندگان برای این استدلالهای خود بر حدود ۱۰۰ مقاله (شامل مقالههای علمی منتشر شده، مقالات در انتظار انتشار، مجموعه مقالات کنفرانسها و کتابهایی که عمدتاً در پنج سال گذشته منتشر شدهاند) بررسیهای جامعی انجام دادند. آنها از دل مقالههای علمی بررسی شده رویکردهای مختلفی به تواناییهای هوش مصنوعی یافتهاند.
بعضی هوش مصنوعی را شبیه به نوعی اوراکل یا پیشگو میبینند: محققان میبینند که ابزارهای هوش مصنوعی میتوانند به گونهای خستگیناپذیر مقالات علمی را بخوانند و هضم کنند و بنابراین ادبیات علمی را جامعتر از انسان میفهمند. در دیدگاه دیگر، هوش مصنوعی همچون داور نگریسته میشود. هم در اوراکل و هم در دیدگاه داور، تصور میشود که هوش مصنوعی به شیوهای عینیتر از انسانها میتواند یافتههای علمی را ارزیابی کند، زیرا احتمال کمی دارد که از ادبیات علمی برای حمایت از یک فرضیه مرجح یا طرفداری از گروههای خاص استفاده کند. در دیدگاه سوم، هوش مصنوعی نوعی ریاضیدان محسوب میشود. به نظر میرسد ابزارهای هوش مصنوعی در تجزیه و تحلیل مجموعه دادههای گسترده و پیچیده از محدودیتهای ذهن انسان رنج نمیبرند و توان تحلیل ریاضیاتی دقیقی دارند. در مورد چهارم، هوش مصنوعی به عنوان نوعی جانشین مطرح میشود. ابزارهای هوش مصنوعی دادههایی را شبیهسازی میکنند که به دست آوردن آنها بسیار دشوار یا پیچیده است.
با این حال، نویسندگان این مقاله خطرات بالقوه ناشی از این دیدگاهها را برجسته میکنند و مثلاً هشدار میدهند که دانشمندان نباید دچار توهم عمق تبیینی یا توهم وسعت اکتشافی شوند. آنها نسبت به اتکای بیش از حد به ابزارهای هوش مصنوعی برای تولید دانش و انجام آزمایش هشدار میدهند و بر اهمیت حفظ یک رویکرد متعادل در تحقیق تأکید میکنند.
در پایان، به دانشمندانی که قصد استفاده از فناوری هوش مصنوعی را دارند، توصیه میشود که این خطرات را به دقت در نظر بگیرند و استراتژیهایی برای کاهش آنها اتخاذ کنند. برای جامعه علمی، از جمله محققان، سرمایهگذاران، و ویراستاران مجلات، بسیار مهم است که با نگاهی انتقادی به استفاده از هوش مصنوعی بپردازند و اطمینان حاصل کنند که طیف متنوعی از دیدگاهها و روشها در تلاشهای تحقیقاتی حفظ میشوند. با اذعان به خطرات و مزایای مرتبط با استفاده از هوش مصنوعی، محققان میتوانند تصمیمات آگاهانه بگیرند و از دامهای احتمالی در فعالیتهای علمی خود جلوگیری کنند.
انتهای پیام/
منبع: آنا
کلیدواژه: هوش مصنوعی تحقیق خطرات هوش مصنوعی ابزارهای هوش مصنوعی هوش مصنوعی هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت ana.press دریافت کردهاست، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۹۲۹۷۶۱ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
اپراتور اختصاصی هوش مصنوعی راهاندازی میشود
معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور با اعلام اینکه اساسنامه مرکز ملی هوش مصنوعی در شورای عالی انقلاب فرهنگی در حال تدوین است، گفت: این مرکز در اولین گام یک کاربر هوش مصنوعی یا به اصطلاح «اپراتور اختصاصی هوش مصنوعی» را در کشور راهاندازی میکند.
به گزارش خبرگزاری ایمنا، روح الله دهقانی فیروزآبادی امروز_شنبه هشتم اردیبهشت_ در نشست خبری با خبرنگاران اظهار کرد: توسعه فناوری در کشور وظیفه اصلی معاونت علمی ریاست جمهوری است و در این راستا برنامه ستاد توسعه هوش مصنوعی این معاونت کمک به دانشگاهها، محققان و شرکتهای دانش بنیان برای توسعه فناوریها و کاربست هوش مصنوعی در ایران با استفاده از ابزار اپراتور است.
وی ادامه داد: پیش بینی میشود امسال جریان اکوسیستمی هوش مصنوعی در کشور راه میافتد و به صدها جی پی یو (GPU واحدهای پردازش گرافیک) دست پیدا میکنیم.
رئیس بنیاد ملی نخبگان به رایزنی با رئیس جمهور و بسیاری دستگاهها از جمله سازمان برنامه و بودجه برای راه اندازی مرکز توسعه هوش مصنوعی در کشور و در کنار آن شورای راهبری هوش مصنوعی اشاره کرد و و یادآور شد: برای این کار مدلهای مختلف در بسیاری کشورها بررسی شد.
دهقانی فیروزآبادی خاطرنشان کرد: بررسیها نشان داد که بعضاً برخی کشورها وزارتخانه و برخی هم شورای راهبری برای هوش مصنوعی ذیل ریاست جمهوری ایجاد کردهاند.
اساسنامه مرکز ملی هوش مصنوعی در حال تدوینوی افزود: با ساعتها رایزنی و مشورت با متخصصان و صاحبنظران هوش مصنوعی و شبکهها به این جمع بندی رسیدیم که در کشور باید یک مرکز تحت عنوان مرکز ملی هوش مصنوعی داشته باشیم تا وظیفه کلانی را در این حوزه از جمله نظارت و تنظیم گری و همچنین توسعه زیرساختهای کلان عهده دار شود و شورایی هم به عنوان راهبر و هیأت امنا بالا سر این مجموعه شکل بگیرد.
معاون علمی رئیس جمهور یادآور شد: اسفندماه ۱۴۰۲ مرکز ملی هوش مصنوعی تأسیس شد و حکم ریاست آن نیز توسط رئیس جمهور صادر شد و اعضای شورای راهبری این مرکز نیز معرفی شدند، اساسنامه مرکز ملی هوش مصنوعی د رحال حاضر در شورای عالی انقلاب فرهنگی در حال تنظیم آست.
دهقانی فیروزآبادی تاکید کرد: این مرکز در حوزه هوش مصنوعی فراتر از معاونت علمی ریاست جمهوری است و همه دستگاهها در قبال این مرکز از یک مأموریت اختصاصی برخوردار هستند.
وی از برگزاری جلسات مختلف با طرفهای تأثیرگذار در حوزه هوش مصنوعی همچون سرمایه گذاران مختلف، بخشهای دولتی و صندوقها خبر داد و تصریح کرد: در این راستا صندوق پژوهش و فناوری توسعه هوش مصنوعی نیز تصویب و دایر شد.
رئیس بنیاد ملی نخبگان با بیان اینکه این صندوق با سرمایه ۱۰ هزار میلیارد تومانی برای فعالیت برنامه ریزی شده است، افزود: بخش خوبی از این سرمایه را نهادهایی مثل صندوق توسعه ملی و چندین مودی مالیاتی بزرگ در حوزه اپراتورها تقبل کردهاند که پرداخت کنند بنابراین اقدامات عملیاتی بسیار خوب پیش رفته است و برنامه ریزی ها این است که مرکز ملی هوش مصنوعی در اولین گام یک کاربر هوش مصنوعی یا اصطلاحاً یک اپراتور هوش مصنوعی در کشور راه اندازی کند.
دهقانی فیروزآبادی ادامه داد: طبق برنامه ریزی انجام شده این اپراتور هوش مصنوعی سه خدمت اصلی را عرضه میکند، یعنی یک مزرعه پردازشی بزرگ که چگونگی ابعاد و اندازه آن در حال بحث است. یک مرکز داده یا دیتا سنتر بزرگ برای تولید دادهها و همچنین کتابخانه بزرگ زبانی و تصویری که اینها مجموعههایی هستند که قرار است در اپراتور اصلی مدیریت شوند.
معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور در بخش دیگری از این نشست خبری در پاسخ به این سوال که تدوین و اجرای نظام ارزیابی دانش بنیانها چه تغییری در اکوسیستم و زیست بوم حوزه دانش بنیانهای کشور ایجاد کرده است، گفت: در نظام جدید ارزیابی دانش بنیانها، علاوه بر سطح فناوری، میزان اشتغال تخصصی و گردش مالی شرکتها مورد سنجش قرار میگیرد و شرکتهای فناور بر این اساس به شرکتهای نوپا، نوآور و فناور تقسیم میشوند.
دهقانی فیروزآبادی در مورد اینکه گفته شده این همان سیستم دسته بندی نوع یک، دو و سه سابق است، تاکید کرد: مطلقاً این صحبت اشتباهی است چراکه قبل از این مجموعههای فناور تنها براساس فناوری دسته بندی میشدند.
وی اظهار داشت: نظام ارزیابی جدید مجموعههای فناور در حال حاضر به یک ابزار جدی برنامه ریزی و مدیریت تسهیلات برای ساز و کارهای حمایتی برای معاونت علمی تبدیل شده است و اینکه میگوئیم ۷ هزار از مجموعههای فناور ما شرکت نوپا و قریب به ۸۰۰ تا هزار فناور هستند و ۲ هزار نوآور هستند، یک دید واقعی به ما میگوید که حجم اقتصاد و حجم صادراتی کشور در چه مرحله و شرایطی است برای یک برنامه ریزی جدی از سوی معاونت علمی است.
رئیس بنیاد ملی نخبگان با بیان اینکه در سه ماه آینده بحث ارزیابی مجموعههای فناور به شکل اساسی به روز رسانی میشود و ارزیابیها توسط پارکها انجام و آسان گیرانه تر و بعضاً غیرحضوری خواهد بود، افزود: هم اکنون ۱۰ پارک علم و فناوری در کشور کارگزار معاونت علمی ریاست جمهوری در شرکتهای نوپا فعالیت میکنند.
دهقانی فیروزآبادی در عین حال تاکید کرد: تمرکز ارزیابیهای جدی و حضوری بر روی شرکتهای نوآور و فناوری خواهد بود که بازی اصلی دست آنها است.
وی پیش بینی کرد امسال علاوه بر متوازن شدن نظام حمایت از مجموعههای فناور و واقعی شدن ارزیابیها، حداقل یک هزار شرکت جدیدی از شرکتهایی که قبلاً در پارکها بودهاند به شرکتهای دانش بنیان نوپا تبدیل میشوند.
۱۰۸ شرکت دانشبنیان در بورس حضور دارند؛ امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کند
دهقانی فیروزآبادی در ادامه نشست خبری از حضور ۱۰۸ شرکت دانشبنیان در بورس خبر داد و گفت: امیدواریم تا آخر سال حداقل رشد ۱۰۰ درصدی را تجربه کنند
وی افزود: یکی از مراحل بلوغ بعضی از شرکتهای دانشبنیان عرضه شدن آنها در بازار سرمایه و مشارکت آنها توسط سرمایه مردم است.، لزومی ندارد یک شرکت دانش بنیان برای ورود به بورس به معاونت علمی ریاست جمهوری مراجعه کند.
معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور ادامه داد: وقتی بحث کلان دادهها مطرح میشود یا بحث دادههای مرتبط با مردم یا امنیت مردم مرتبط میشود، صلاحیت شرکتها برای ورود به بورس در یک کارگروهی که در معاونت علمی ریاست جمهوری تشکیل شده، مورد بررسی و ارزیابی قرار میگیرد.
کد خبر 748400