کسب‌وکارهای نوپا:چت جی پی حقیقت یا جعل است ؟ عادت به استفاده از مدل‌های مولد هوش مصنوعی به عنوان موتورهای جستجو به گسترش اطلاعات نادرست کمک می‌کند. در عصر دیجیتال امروزی، ظهور هوش مصنوعی پیشرفت‌های زیادی را در فناوری به همراه داشته است. یکی از این نوآوری ها چت جی پی است، یک مدل زبان که به دلیل توانایی آن در تولید متنی شبیه انسان شناخته شده است. مزایای این ابزار به طور گسترده در مورد صرفه جویی در زمان و منابع، دریافت ایده های تجاری عالی، ایجاد محتوای نوآورانه، کمک به کاربران در یافتن سریع اطلاعات و غیره صحبت شده است. در حالی که چت جی پی در مناسبت های مختلف ثابت کرده است که کمک ارزشمندی است، نگرانی هایی در مورد پتانسیل آن برای انتشار اخبار جعلی وجود دارد زیرا چت جی پی همیشه ۱۰۰٪ دقیق نیست. این موارد را در نظر بگیرید مثال های متعددی وجود دارد که چگونه چت جی پی می تواند ما را به طور خطرناکی در مسیر اشتباه قرار دهد.

Business Reporter در مورد چت بات می نویسد که واقعاً جوابی نمی داند، اما همچنان با اطمینان به شما پاسخ می دهد، حتی اگر پاسخ اشتباهی باشد. چت جی پی حتی ممکن است از پاسخ های خود دفاع کند و دلیل درستی آنها را توضیح دهد. برخلاف موتورهای جستجویی که اطلاعات را مستقیماً از پایگاه‌های داده ارائه می‌کنند، چت جی پی پاسخ‌هایی را از طریق فرآیند حدس‌های آموزشی بر اساس داده‌های موجود تولید می‌کند که گاهی اوقات می‌تواند منجر به انتشار ناخواسته اطلاعات نادرست یا اخبار جعلی شود. علاوه بر این، خطر تولید اخبار جعلی فراتر از فرآیند ایجاد پاسخ چت جی پی است. چت جی پی به‌عنوان یک ربات چت هوش مصنوعی، فاقد توانایی انسان برای تشخیص بین نظرات و مقالات واقعی است، که باعث می‌شود تمام اطلاعات را به صورت واقعی بپذیرد. با توجه به اینکه ۶۲درصد از کاربران اینترنت در سال ۲۰۲۱ گزارش داده اند که با محتوای گمراه کننده مواجه شده اند، این احتمال وجود دارد که چت جی پی نیز در طول فرآیند تولید خود با اطلاعات نادرست مواجه شود و آن را به عنوان پاسخ قطعی به شما ارائه دهد. بنابراین، ابزاری مانند آن می تواند خطر بزرگی را به ویژه در زمینه روزنامه نگاری ایجاد کند. با توجه به بررسی فناوری MIT، مدل‌های زبان هوش مصنوعی مزخرفات بدنامی هستند که اغلب دروغ‌ها را به عنوان واقعیت نشان می‌دهند. آنها در پیش بینی کلمه بعدی در یک جمله عالی هستند، اما هیچ اطلاعی از معنای واقعی جمله ندارند. این امر ترکیب آن‌ها با جستجو را بسیار خطرناک می‌سازد، جایی که یافتن حقایق بسیار مهم است. گاردین در سال ۲۰۲۳ متوجه شد که چت جی پی مقالات جعلی را تحت عنوان روزنامه ساخته است. سرمقاله آن ایمیل جالبی دریافت کرد – محققی با اشاره به مقاله گاردین مواجه شده بود که توسط روزنامه نگار در مورد موضوعی خاص از چند سال قبل نوشته شده بود. اما این قطعه در وب سایت آنها و در موتورهای جستجو یافت نشد. نویسنده ادعایی به یاد نمی آورد که مقاله خاصی را نوشته است، اما تیتر مطمئناً شبیه چیزی است که آنها می نوشتند. موضوعی بود که آنها با آن شناسایی شدند و سابقه پوشش داشتند. در پایان، نتیجه گیری شد که کل این مطلب توسط چت جی پی اختراع شده است. همچنین چت جی پی می تواند یک کسب و کار را ایجاد یا شکست دهد چت جی پی به طور فزاینده ای در بخش های مختلف تجاری برای کارهایی مانند ایجاد کمپین های بازاریابی و توسعه محصولات استفاده می شود. با این حال، خطر قابل توجهی وجود دارد که چت جی پی اطلاعات نادرستی را ارائه دهد که تیم ها ممکن است کل پروژه ها را بر اساس آن قرار دهند. اگر کسب‌وکارها بر روی راه‌حل‌هایی بر اساس پیشنهادات نادرست سرمایه‌گذاری کنند، این می‌تواند منجر به آسیب اعتبار و ضرر مالی شود. این فناوری می تواند اثری بر سایر مشاغل نیز بگذارد. در سال ۲۰۲۳، یک وکیل ۳۰ ساله کهنه کار نیویورکی، استیون آ شوارتز، از چت جی پیبرای نوشتن یک خلاصه حقوقی استفاده کرد که به دادگاه ارسال کرد. او حتی پرسید که آیا نقل قول ها واقعی است؟ چت جی پی مستقیماً به او دروغ گفت و او بدون تأیید آن پاسخ را باور کرد. او خلاصه‌ای را همراه با نقل‌قول‌هایی ارسال کرد که از پرونده‌اش حمایت می‌کرد و سپس طبق گزارش CNN مجبور شد با تحریم‌های قانونی روبرو شود. به همین دلیل است که برای کاهش خطرات چت جی پی انتشار اخبار جعلی، ضروری است که کاربران اطلاعاتی را که آنلاین با آنها مواجه می‌شوند ارزیابی کنند. راستی‌آزمایی منابع گام‌های مهمی در مبارزه با انتشار اطلاعات نادرست است. در حالی که چت جی پی مزایای زیادی از نظر تولید زبان و ارتباطات ارائه می دهد، خطرات ذاتی در پتانسیل آن برای انتشار اخبار جعلی وجود دارد. با افزایش آگاهی در مورد این خطرات و اتخاذ اقدامات پیشگیرانه برای مقابله با آنها، می توانیم در جهت استفاده آگاهانه و مسئولانه تر از فناوری های هوش مصنوعی در عصر دیجیتال تلاش کنیم.

گروه آموزش