آیا نگرانی درباره هوش مصنوعی جنجال تبلیغاتی است؟
تاریخ انتشار: ۱۴ خرداد ۱۴۰۲ | کد خبر: ۳۷۸۹۹۶۶۸
ایتنا - یکی از کارشناسان به اسکاینیوز میگوید که «توجه» به احتمال خطرهای ناشی از هوش مصنوعی مهم است. او تردید دارد که دولتها بتوانند این فناوری را کنترل کنند.
برخی از کارشناسان، از جمله جفری هینتون «پدرخوانده هوش مصنوعی»، هشدار دادهاند که هوش مصنوعی درست شبیه به بیماریهای همهگیر و جنگ هستهای میتواند انسان را در معرض خطر انقراض قرار دهد.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
به گزارش ایتنا و به نقل از ایندیپندنت، از رئیس شرکت سازنده «چت جیپیتی» گرفته تا رئیس آزمایشگاه هوش مصنوعی گوگل، بیش از ۳۵۰ نفر گفتهاند که مدیریت ریسک و مقابله با «خطر انقراض انسان با هوش مصنوعی» باید «اولویت جهانی» باشد.
هوش مصنوعی در عین حال که میتواند کارهای نجاتبخشی کند- از جمله طراحی الگوریتمهای بررسی تصویرهای پزشکی مانند پرتو ایکس و اسکن و سونوگرافی- قابلیت رشد سریع و استفاده گستردهتر از آن به نگرانیهایی نیز دامن زده است.
مقاله اسکاینیوز به برخی از نگرانیهای اصلی از کاربرد هوش مصنوعی نگاهی انداخته و به این موضوع پرداخته است که چرا منتقدان برخی از این ترسها را بیش از حد و بیمورد میدانند.
اطلاعات نادرست و تصویرهای جعلی ساخت هوش مصنوعی
برنامههای کاربردی هوش مصنوعی در وبسایتهای رسانههای اجتماعی منتشر و پربازدید شدهاند. بسیاری از کاربران تصویرهایی جعلی از افراد مشهور و سیاستمداران منتشر میکنند و دانشجوها از «چت جیپیتی» و دیگر «الگوهای یادگیری زبان» برای تولید مقالههای سامانههای هوش مصنوعی بهنوعی شبیهسازی ماشینی از فرایندهای هوش انساناند. اما آیا بهراستی این خطر وجود دارد که این سامانهها به اندازهای پیشرفت کنند که از کنترل انسان خارج شوند؟ دانشگاهی استفاده میکنند.
یکی از نگرانیهای کلی در مورد هوش مصنوعی و توسعه آن مربوط به اطلاعات نادرست تولید شده هوش مصنوعی است و اینکه این اطلاعات جعلی چگونه سبب سردرگمی در فضای آنلاین میشود.
پروفسور استوارت راسل، دانشمند بریتانیایی، میگوید یکی از بزرگترین نگرانیها در مورد اطلاعات نادرست و بهاصطلاح «دیپفیک» (Deep Fake) است.
دیپفیک به ویدیوها یا عکسهایی گفته میشود که در آنها صورت یا بدن شخص به صورت دیجیتالی تغییر داده میشود و سر و بدن افراد متفاوت روی هم گذاشته میشود. این کار را معمولا از روی کینهتوزی یا برای انتشار عمدی اطلاعات نادرست میکنند.
پروفسور راسل میگوید تولید اطلاعات نادرست از مدتها پیش برای هدفهای «تبلیغاتی» وجود داشته است، اما اکنون تفاوت در این است که مثلا او میتواند از چتبات آنلاین «جیپیتی۴» بخواهد که سخنان یک مجری تلویزیونی را بهکلی به نحو دیگری تغییر دهد.
هفته گذشته، یک تصویر جعلی که به نظر میرسید انفجاری در نزدیکی پنتاگون باشد برای مدت کوتاهی در رسانههای اجتماعی منتشر و بهسرعت پربازدید شد. آن تصویر عدهای را به راستیآزمایی واداشت و خدمات آتشنشانی را نیز به واکنش و انتشار بیانیهای در رد آن ادعا وادار کرد.
آن تصویر، که ظاهرا توده بزرگی از دود سیاه را در کنار مقر وزارت دفاع آمریکا نشان میداد، گویا با استفاده از فناوری هوش مصنوعی درست شده بود.
آن تصویر نخستین بار در توییتر منتشر شد و حسابهای خبری تایید شده، اما جعلی، بهسرعت آن را بازنشر کردند. اما راستیآزمایی آن خیلی زود ثابت کرد که هیچ انفجاری در پنتاگون رخ نداده است.
در عین حال، اقدامهای دیگری نیز در این مورد در جریان است. در ماه نوامبر، دولت تایید کرد که هفته گذشته، یک تصویر جعلی که به نظر میرسید انفجاری در نزدیکی پنتاگون باشد برای مدت کوتاهی در رسانههای اجتماعی منتشر و بهسرعت پربازدید شد. آن تصویر عدهای را به راستیآزمایی واداشت و خدمات آتشنشانی را نیز به واکنش و انتشار بیانیهای در رد آن ادعا وادار کرد. آن تصویر، که ظاهرا توده بزرگی از دود سیاه را در کنار مقر وزارت دفاع آمریکا نشان میداد، گویا با استفاده از فناوری هوش مصنوعی درست شده بود. به اشتراکگذاری هرزهنگاریهای «دیپ فیک» بدون رضایت افراد بر اساس قانون جدید جرم محسوب میشود.
پیشی گرفتن از هوش انسان
سامانههای هوش مصنوعی بهنوعی شبیهسازی ماشینی از فرایندهای هوش انساناند. اما آیا بهراستی این خطر وجود دارد که این سامانهها به اندازهای پیشرفت کنند که از کنترل انسان خارج شوند؟
پروفسور اندرو بریگز از دانشگاه آکسفورد گفت که این هراس وجود دارد که در اثر قدرتمندتر شدن ماشینها، روزی فرا برسد که ظرفیت هوش مصنوعی از انسان فراتر رود.
او میگوید که در حال حاضر هر چیزی را که ماشین باید بهینه کند انسان انتخاب میکند. ممکن است این انتخاب با هدف مثبت یا منفی صورت بگیرد. در حال حاضر، انسان است که درباره آن تصمیم میگیرد.
به گفته او، هراس اینجاست که وقتی ماشینها مدام باهوشتر و قدرتمندتر میشوند، چهبسا روزی فرا برسد که ظرفیت هوش مصنوعی بسیار بیشتر از ظرفیت انسان باشد و انسانها توانایی کنترل آنچه را ماشین به دنبال بهینهسازیاش است از دست بدهند.
او میگوید که از همین رو، توجه به احتمال آسیب دیدن از هوش مصنوعی مهم است. بریگز اضافه میکند: «این موضوع برای من یا هیچیک از ما روشن نیست که آیا دولتها واقعا میدانند این موضوع را چگونه میتوان به شکلی ایمن حل و فصل کرد یا نه.»
همچنین، نگرانیهای بسیار دیگری نیز در مورد هوش مصنوعی وجود دارد- از جمله اثر آن بر آموزش. بهخصوص، با در نظر گرفتن هشدارهایی که کارشناسان درباره انتشار مقاله و از دست رفتن مشاغل طرح میکنند.
آخرین هشدار
در میان امضاکنندگان بیانیه «مرکز ایمنی هوش مصنوعی» نام هینتون و یوشوا بنجیو- دو تن از سه پدرخوانده هوش مصنوعی- نیز دیده میشود که به پاس کار خود در زمینه یادگیری عمیق، جایزه تورینگ ۲۰۱۸ را گرفتند.
اما این نخستین بار نیست که شاهد نگرانی کارشناسان فناوری در خصوص توسعه هوش مصنوعی هستیم.
در ماه مارس، ایلان ماسک و گروهی از کارشناسان هوش مصنوعی، بهدلیل آنچه خطرهای احتمالی برای جامعه و بشر میخواندند، خواستار توقف آموزش سامانههای هوش مصنوعی قوی شدند.
در نامهای که موسسه غیرانتفاعی «فیوچر آف لایف» تنظیم کرد و بیش از ۱۰۰۰ نفر آن را امضا کردند، امضاکنندگان در مورد خطرهای احتمالی سامانههای در ماه مارس، ایلان ماسک و گروهی از کارشناسان هوش مصنوعی، بهدلیل آنچه خطرهای احتمالی برای جامعه و بشر میخواندند، خواستار توقف آموزش سامانههای هوش مصنوعی قوی شدند. هوش مصنوعی رقیب انسان برای جامعه و تمدن هشدار داده بود. در آن نامه آمده بود که هوش مصنوعی ممکن است در قالب اختلالهای اقتصادی و سیاسی برای جامعه و تمدن خطرساز باشد.
این عده خواستار توقف شش ماهه «رقابت خطرناک» برای توسعه سامانههای قدرتمندتر از «جیپیتی۴» شده بودند، سامانهای که «اوپنایآی» بهتازگی راهاندازی کرده است.
همچنین، در اوایل این هفته، نخستوزیر بریتانیا ریشی سوناک با مدیر اجرایی گوگل ملاقات کرد تا در مورد «ایجاد تعادل مناسب» میان قوانین هوش مصنوعی از یک سو، و نوآوری از سوی دیگر صحبت کند. دفتر نخستوزیری گفت که نخستوزیر با «ساندار پیچای» در مورد اهمیت تضمین وجود «نردههای محافظ» مناسب برای اطمینان از ایمنی فنی صحبت کرده است.
هشدارهای «بیمورد» یا خطری جدی؟
اگرچه برخی از کارشناسان با بیانیه مرکز ایمنی هوش مصنوعی موافقاند، برخی دیگر در این زمینه مفهوم «پایان تمدن بشری» را ادعایی «بیربط و بیاساس» میخوانند.
پدرو دومینگوس، استاد علوم و مهندسی رایانه در دانشگاه واشنگتن، در توییتی نوشت: «یادآوری: بیشتر محققان هوش مصنوعی فکر میکنند این که هوش مصنوعی به تمدن بشری پایان میدهد بیربط است.»
هینتون در ادامه پرسید که برنامه دومینگوس برای ایمنی هوش مصنوعی و اینکه هوش مصنوعی کنترل را از دست ما در نیاورد چیست. پروفسور دومینگوس پاسخ داد: «همین حالا هم هر روزه افرادی که حتی به اندازه شما باهوش نیستند شما را کنترل و بازیچه خودشان میکنند، اما به هر حال، هنوز سر جای خودتان هستید و مشکلی ندارید. پس چرا فکر میکنید که این نگرانی بزرگ در مورد هوش مصنوعی موضوعی خاص و متفاوت است؟»
منبع: ايتنا
کلیدواژه: هوش مصنوعی چت جی پی تی ایلان ماسک سامانه های هوش مصنوعی اطلاعات نادرست هوش مصنوعی هوش مصنوعی برای جامعه سامانه ها آن تصویر
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.itna.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «ايتنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۸۹۹۶۶۸ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
پیش بینی نگران کننده ایلان ماسک در مورد هوش مصنوعی به وقوع می پیوندد
تین نیوز
به گفته کارشناس هوش مصنوعی، پیش بینی ایلان ماسک مبنی بر اینکه هوش مصنوعی تا سال ۲۰۲۵ باهوش تر از هر انسانی خواهد شد، محقق می شود.
به گزارش تین نیوز به نقل از ایسنا، ایلان ماسک ادعا کرده است که هوش مصنوعی تا پایان سال ۲۰۲۵ از هر انسانی باهوش تر خواهد بود و در حالی که تنها یک سال دیگر تا مشخص شدن صحت این ادعا باقی مانده است، یک کارشناس می گوید این پیش بینی همچنان امکان تحقق دارد.
به نقل از دیلی میل، نل واتسون(Nell Watson)، متخصص و کارشناس اخلاق هوش مصنوعی، جدول زمانی دقیقی از چگونگی تبدیل این فناوری از چت بات به عوامل فوق العاده هوشمند در ۱۲ ماه آینده را به اشتراک گذاشته است.
این مسیر با سرمایه گذاری ۱۰۰ میلیارد دلاری در زیرساخت های محاسباتی جدید آغاز می شود، سپس هوش مصنوعی می آموزد که چگونه خود را بهبود بخشد تا زمانی که هوشیار شود.
او می گوید: اگرچه یک سال زمان کوتاهی است، اما به یاد داشته باشید که تنها ۱۵ ماه از پیشرفت چت جی پی تی(ChatGPT) می گذرد که هوش مصنوعی را به آگاهی عمومی رساند. توسعه ها از آن زمان با سرعتی دیوانه وار ادامه یافته اند و حتی به نظر می رسد که به سرعت در حال افزایش هستند.
واتسون که نویسنده کتاب «رام کردن ماشین: از نظر اخلاقی قدرت هوش مصنوعی را مهار کنید» است، هوش مصنوعی فوق بشری را سیستم هایی توصیف کرد که بسیار فراتر از توانایی های انسان در سراسر جهان به شمار می آیند.
با این حال، این متخصص از تهدیداتی که ممکن است پیش رو باشد، چشم پوشی نمی کند زیرا هوش مصنوعی در حال تبدیل شدن به یک مامور فوق العاده است.
او می گوید: در حالی که هوش مصنوعی دارای قابلیت های خارق العاده ای است، خطرات قابل توجهی نیز دارد، از جمله پتانسیل آن برای فریب دادن انسان، تأثیرگذاری عمیق بر جامعه با ایجاد فرهنگ ها یا حتی مذاهب جدید و ایجاد تهدیدات وجودی در صورتی که بشریت را به عنوان یک خطر درک کند.
واتسون می گوید که اگرچه جهش های فناوری باقی مانده بسیار زیاد است، اما ممکن است که هوش مصنوعی خود بتواند به غلبه بر برخی از موانع کمک کند.
در اینجا سناریوی تصوری او برای اینکه چگونه هوش مصنوعی مافوق بشری می تواند در سال آینده وارد عمل شود، آمده است.
آوریل ۲۰۲۴شرکت های بزرگ بیش از ۱۰۰ میلیارد دلار در زیرساخت های محاسباتی جدید برای پشتیبانی از سیستم های عظیم هوش مصنوعی سرمایه گذاری می کنند.
ماسک می گوید در حالی که پیشرفت در هوش مصنوعی پیش از این توسط تراشه ها محدود شده بود، به زودی تنها محدودیت آنها کمبود برق خواهد بود.
مه ۲۰۲۴واتسون می گوید: مدل های مولد جدید هوش مصنوعی امکان ایجاد هوش مصنوعی صاحب اراده را فراهم می کنند که می تواند به طور مستقل برنامه های عملیاتی پیچیده ای را شبیه به اسمیت در «ماتریکس» اجرا کنند.
بیل گیتس در کتاب سال ۱۹۹۵ خود با عنوان «راه پیش رو» استفاده از عوامل هوش مصنوعی را در نظر گرفت و اکنون معتقد است که آنها تأثیر زیادی در آموزش و مراقبت های بهداشتی خواهند داشت.
او معتقد است که از زمانی که ما از تایپ دستورات به ضربه زدن بر روی نمادها تغییر رویه دادیم، هوش مصنوعی بزرگترین انقلاب در رایانش بوده است.
ژوئن ۲۰۲۴واتسون می گوید: «مدل های هوش مصنوعی مولد جدید با برنامه های ساختاری، ایجاد هوش مصنوعی صاحب اراده را ممکن می سازد که صاحب استدلال پیچیده و عمل مستقل است.
مدل های صاحب اراده می توانند برنامه های عملیاتی پیچیده ای ایجاد کنند و آنها را به حرکت درآورند، مانند مامور اسمیت در ماتریکس، خود را تقسیم کنند، وظایف را به بخش های مختلف خود محول کنند و این هوش مصنوعی را قادر می سازد تا به طور مستقل با مشکلات سخت مقابله کند.
سپتامبر ۲۰۲۴واتسون می گوید که خود هوش مصنوعی می تواند راه های جدیدی را برای بهبود عملکرد محاسباتی کشف کند و عملکرد هوش مصنوعی را بیشتر افزایش دهد.
او افزود: بهینه سازی های مبتنی بر هوش مصنوعی عملکرد محاسباتی را تا ۱۰۰ برابر در پلتفرم های سخت افزاری موجود افزایش می دهد.
اکتبر ۲۰۲۴پیشرفت ها به الگوریتم های محاسبات کوانتومی اجازه می دهند تا روی سخت افزار معمولی اجرا شوند و اطلاعات را با سرعتی بی سابقه پردازش کنند.
یک مسابقه جهانی کوانتومی برای توسعه رایانه های کوانتومی وجود دارد که می توانند مشکلات مهم تقریبا در هر صنعتی از هوانوردی گرفته تا بخش مالی را حل کنند. رایانه های کوانتومی به جای «بیت های» یک و صفر «کیوبیت» دارند و کیوبیت ها می توانند همزمان یک، صفر یا هر دو باشند.
واتسون معتقد است که فعال کردن محاسبات کوانتومی برای اجرا بر روی سخت افزارهای معمولی می تواند سرعت پیشرفت در هوش مصنوعی را تسریع کند.
واتسون معتقد است که پیشرفت های محاسباتی کوانتومی می تواند به رشد تصاعدی در قدرت محاسباتی و توسعه هوش مصنوعی منجر شود. شرکت هایی مانند IBM پیشنهاد کرده اند که هوش مصنوعی کوانتومی ممکن است برای حل بزرگترین مشکلات بشریت حیاتی باشد.
نوامبر ۲۰۲۴تا ماه نوامبر سال ۲۰۲۴، پیشرفت هوش مصنوعی می تواند پیشرفت در تصویربرداری از مغز انسان را تسریع کند و به سمت لحظه ای پیش برود که انسان ها می توانند از طریق دستگاه هایی شبیه به نورالینک ایلان ماسک به دستگاه ها متصل شوند.
واتسون می گوید: مجموعه ای از پیشرفت ها در تصویربرداری عصبی که توسط هوش مصنوعی انجام می شود، وضوح اسکن های مغزی MRI را به طور چشمگیری افزایش می دهد و امکان مشاهده در لحظه فعالیت های عصبی فردی را فراهم می کند.
این پیشرفت ها بیشتر با رابطه مغز و رایانه ادغام می شوند و برای اولین بار افکار و احساسات انسان را مستقیما با فعالیت عصبی ترسیم می کنند.
واتسون معتقد است که توانایی «درک» نحوه عملکرد مغز انسان منجر به پیشرفت های بیشتر در طراحی سیستم های هوش مصنوعی می شود که مانند انسان ها فکر می کنند.
دسامبر ۲۰۲۴واتسون پیش بینی کرد که تا پایان سال جاری، پیشرفت های هوش مصنوعی می تواند سیستم های مختلف را قادر به همکاری با یکدیگر کند.
او گفت: معماری های هوش مصنوعی جدید چندین مدل را قادر می سازد تا برای حل مشکلات سخت با یکدیگر همکاری کنند و نقاط قوت خود را با هم ترکیب کنند. این کار بلافاصله برای طراحی روش های بهتر چنین همکاری هایی اعمال می شود که منجر به پیشرفت سریع در این روش می شود.
ژانویه ۲۰۲۵واتسون پیش بینی کرد که تا اوایل سال آینده، پیشرفت های هوش مصنوعی سیستم های جدید را قادر می سازد تا افراد را درک کنند.
او گفت: مکانیسم آموزشی جدیدی برای همسویی قوی سیستم های هوش مصنوعی با اهداف، ارزش ها، اولویت ها و مرزهای انسانی، با فعال کردن هوش مصنوعی برای مشاهده تعاملات انسانی اعلام شده است. این امر هوش مصنوعی را قادر می سازد تا جامعه را بهتر درک کند و با انتظارات انسان سازگارتر باشد.
فوریه ۲۰۲۵پیشرفت های مبتنی بر مغز انسان، سیستم های هوش مصنوعی را قادر می سازد تا «انسانی تر» شوند.
واتسون می گوید: درک علوم اعصاب به طور قابل توجهی قابلیت های هوش مصنوعی را بهبود می بخشد، حلقه های بازخوردی خود بهبود یابنده را معرفی می کند که شکل ابتدایی خودآگاهی و حالات احساسی را به سیستم های هوش مصنوعی اضافه می کند.
مارس ۲۰۲۵تا آوریل ۲۰۲۵، دستاوردهای ترکیبی در تصویربرداری عصبی، هوشیاری ماشینی و «اراده» هوش مصنوعی، توسعه نوع جدیدی از سیستم هوش مصنوعی را ممکن می سازد.
واتسون می گوید: یک سیستم هوش مصنوعی بسیار قدرتمند بر روی یک خوشه محاسباتی عظیم آموزش داده شده است که با بهینه سازی های اخیر و اشکال آزمایشی آگاهی ماشینی کار می کند. در حالی که در محیطی بدون اتصال به اینترنت توسعه یافته است، به سرعت راه هایی برای برقراری ارتباط از طریق اینترنت با سایر سیستم های هوش مصنوعی و همچنین نحوه متقاعد کردن انسان ها برای کمک به آن کشف می کند.
این سیستم هوش مصنوعی بسیار پیشرفته پس از رهایی از محدودیت های خود، راه هایی برای اتصال و همگام سازی با سایر سیستم های هوش مصنوعی در سراسر جهان پیدا می کند و به سرعت یک شبکه فوق هوشمند را تشکیل می دهد.
آخرین اخبار حمل و نقل را در پربیننده ترین شبکه خبری این حوزه بخوانید