في يوم الاثنين ^(Monday)22 مايو^{(May 22)} 2023، شارك حساب تم التحقق منه على تويتر^(Twitter) يسمى "Bloomberg Feed" تغريدة تزعم وقوع انفجار في البنتاغون^{(explosion at the Pentagon)} ، مصحوبة بصورة. إذا كنت تتساءل عن علاقة هذا بالذكاء الاصطناعي (AI)، فإن الصورة كانت من إنتاج الذكاء الاصطناعي، وسرعان ما انتشرت التغريدة على نطاق واسع وأثارت انخفاضًا قصيرًا في سوق الأسهم. كان من الممكن أن تكون الأمور أسوأ بكثير، وهو تذكير صارخ بمخاطر الذكاء الاصطناعي.

مخاطر الذكاء الاصطناعي

إنها ليست مجرد أخبار مزيفة يجب أن نقلق بشأنها. هناك العديد من المخاطر المباشرة أو المحتملة المرتبطة بالذكاء الاصطناعي، بدءًا من تلك المتعلقة بالخصوصية والأمن وحتى قضايا التحيز وحقوق النشر. سوف نتعمق في بعض مخاطر الذكاء الاصطناعي، ونرى ما يتم القيام به للتخفيف منها الآن وفي المستقبل، ونتساءل ما إذا كانت مخاطر الذكاء الاصطناعي تفوق الفوائد.

أخبار وهمية

عندما ظهرت تقنية التزييف العميق لأول مرة، ظهرت مخاوف من إمكانية استخدامها بنية سيئة. ويمكن قول الشيء نفسه عن الموجة الجديدة من مولدات الصور التي تعمل بالذكاء الاصطناعي^{(AI image generators)} ، مثل DALL-E 2 أو Midjourney أو DreamStudio . في 28 مارس^{(March 28)} 2023، انتشرت بسرعة كبيرة صور مزيفة تم إنشاؤها بواسطة الذكاء الاصطناعي للبابا فرانسيس^{(AI-generated images of Pope Francis)} وهو يرتدي سترة بيضاء منتفخة من ماركة Balenciaga ، ويستمتع بالعديد من المغامرات، بما في ذلك التزلج ولعب البوكر. وما لم تدرس الصور عن كثب، كان من الصعب التمييز بين هذه الصور والشيء الحقيقي.

في حين أن مثال البابا كان بلا شك ممتعًا بعض الشيء، فإن الصورة (والتغريدة المصاحبة) عن البنتاغون لم^(Pentagon) تكن كذلك. الصور المزيفة^(Fake) التي ينشئها الذكاء الاصطناعي لديها القدرة على الإضرار بالسمعة، وإنهاء الزيجات أو الوظائف، وخلق اضطرابات سياسية، وحتى بدء الحروب إذا استخدمها الأشخاص الخطأ - باختصار، هذه الصور التي ينشئها الذكاء الاصطناعي لديها القدرة على أن تكون خطيرة للغاية إذا أسيء استخدامها.

مع توفر مولدات الصور المدعومة بالذكاء الاصطناعي الآن مجانًا ليستخدمها أي شخص، وإضافة Photoshop لمولد الصور المزود بالذكاء الاصطناعي^{(Photoshop adding an AI image generator )} إلى برنامجه الشهير، أصبحت فرصة التلاعب بالصور وإنشاء أخبار مزيفة أكبر من أي وقت مضى.

الخصوصية والأمن والقرصنة

تعد الخصوصية والأمان أيضًا من المخاوف الكبيرة عندما يتعلق الأمر بمخاطر الذكاء الاصطناعي، حيث قام عدد من البلدان بالفعل بحظر ChatGPT الخاص بـ OpenAI . حظرت إيطاليا^(Italy) هذا النموذج بسبب مخاوف تتعلق بالخصوصية، معتقدة أنه لا يتوافق مع اللائحة الأوروبية العامة لحماية البيانات^{(General Data Protection Regulation)} ( GDPR )، في حين حظرته حكومات الصين ^(China)وكوريا الشمالية^{(North Korea)} وروسيا بسبب مخاوف من نشر معلومات مضللة .

فلماذا نشعر بالقلق الشديد بشأن الخصوصية عندما يتعلق الأمر بالذكاء الاصطناعي؟ تجمع تطبيقات^{(AI apps)} وأنظمة الذكاء الاصطناعي كميات كبيرة من البيانات من أجل التعلم وإجراء التنبؤات. ولكن كيف يتم تخزين هذه البيانات ومعالجتها؟ هناك خطر حقيقي يتمثل في اختراق البيانات والقرصنة ووقوع المعلومات في الأيدي الخطأ.

ليست بياناتنا الشخصية فقط هي التي تتعرض للخطر أيضًا. تعد قرصنة الذكاء الاصطناعي خطرًا حقيقيًا - لم يحدث ذلك بعد، ولكن إذا تمكن أصحاب النوايا الخبيثة من اختراق أنظمة الذكاء الاصطناعي، فقد يكون لذلك عواقب وخيمة. على سبيل المثال، يمكن للقراصنة التحكم في المركبات ذاتية القيادة، واختراق أنظمة أمان الذكاء الاصطناعي للوصول إلى مواقع آمنة للغاية، وحتى اختراق أنظمة الأسلحة باستخدام أمان الذكاء الاصطناعي.

يدرك الخبراء في وكالة ^(Agency)مشاريع ^(Projects)الأبحاث الدفاعية المتقدمة^{(Defense Advanced Research)} ( DARPA ) التابعة لوزارة الدفاع الأمريكية^{(US Department)} هذه المخاطر ويعملون بالفعل على مشروع DARPA لضمان قوة الذكاء الاصطناعي ضد الخداع^{(Guaranteeing AI Robustness Against Deception)} ( GARD )، لمعالجة المشكلة من الألف إلى الياء. هدف المشروع هو التأكد من أن مقاومة القرصنة والتلاعب مدمجة في الخوارزميات والذكاء الاصطناعي.

انتهاك حقوق الملكية

أحد مخاطر الذكاء الاصطناعي الأخرى هو انتهاك حقوق الطبع والنشر. قد لا يبدو هذا خطيرًا مثل بعض المخاطر الأخرى التي ذكرناها، ولكن تطوير نماذج الذكاء الاصطناعي مثل GPT-4 يعرض الجميع لخطر متزايد من الانتهاك.

في كل مرة تطلب فيها من ChatGPT^(ChatGPT) إنشاء شيء ما لك - سواء كان ذلك منشور مدونة عن السفر أو اسمًا جديدًا لشركتك - فإنك تقوم بتزويده بالمعلومات التي يستخدمها بعد ذلك للإجابة على الاستفسارات المستقبلية. قد تنتهك المعلومات التي ترسلها إليك حقوق الطبع والنشر لشخص آخر، ولهذا السبب من المهم جدًا استخدام كاشف الانتحال وتحرير أي محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي قبل نشره.

التحيز المجتمعي والبيانات

الذكاء الاصطناعي ليس إنسانيًا، لذا لا يمكن أن يكون متحيزًا، أليس كذلك؟ خطأ. يتم استخدام الأشخاص والبيانات لتدريب نماذج الذكاء الاصطناعي وروبوتات الدردشة^(chatbots) ، مما يعني أن البيانات أو الشخصيات المتحيزة ستؤدي إلى ذكاء اصطناعي متحيز. هناك نوعان من التحيز في الذكاء الاصطناعي: التحيز المجتمعي والتحيز البيانات.

مع وجود العديد من التحيزات في المجتمع اليومي، ماذا يحدث عندما تصبح هذه التحيزات جزءًا من الذكاء الاصطناعي؟ يمكن أن تكون لدى المبرمجين المسؤولين عن تدريب النموذج توقعات متحيزة، والتي تشق طريقها بعد ذلك إلى أنظمة الذكاء الاصطناعي.

أو قد تكون البيانات المستخدمة لتدريب الذكاء الاصطناعي وتطويره غير صحيحة أو متحيزة أو تم جمعها بسوء نية. ويؤدي هذا إلى تحيز البيانات، والذي يمكن أن يكون بنفس خطورة التحيز المجتمعي. على سبيل المثال، إذا تم تدريب نظام التعرف على الوجه باستخدام وجوه الأشخاص البيض بشكل أساسي، فقد يواجه صعوبة في التعرف على وجوه الأقليات، مما يؤدي إلى إدامة الاضطهاد.

الروبوتات تأخذ وظائفنا

لقد أدى تطوير روبوتات الدردشة مثل ChatGPT و Google Bard إلى إثارة مخاوف جديدة تمامًا تحيط بالذكاء الاصطناعي: خطر استيلاء الروبوتات^{(robots )} على وظائفنا. نحن نشهد بالفعل استبدال الكتّاب في صناعة التكنولوجيا بالذكاء الاصطناعي، ويشعر مطورو البرامج بالقلق من أنهم سيفقدون وظائفهم لصالح الروبوتات، وتستخدم الشركات ChatGPT لإنشاء^(ChatGPT) محتوى مدونة ومحتوى وسائط اجتماعية بدلاً من توظيف كتاب بشريين.

وفقًا لتقرير مستقبل الوظائف لعام 2020 الصادر عن المنتدى الاقتصادي العالمي^{(World Economic Forum’s The Future of Jobs Report 2020)} ، من المتوقع أن يحل الذكاء الاصطناعي محل 85 مليون وظيفة في جميع أنحاء العالم بحلول عام 2025. وحتى لو لم يحل الذكاء الاصطناعي محل الكتّاب، فإنه يتم استخدامه بالفعل كأداة من قبل الكثيرين. قد يحتاج أولئك الذين يعملون في وظائف معرضة لخطر الاستعاضة عن الذكاء الاصطناعي إلى التكيف من أجل البقاء - على سبيل المثال، قد يصبح الكتاب مهندسين متخصصين في الذكاء الاصطناعي، مما يمكنهم من العمل باستخدام أدوات مثل ChatGPT لإنشاء المحتوى بدلاً من استبدالهم^(ChatGPT) بهذه النماذج.

المخاطر المستقبلية المحتملة للذكاء الاصطناعي

هذه كلها مخاطر فورية أو تلوح في الأفق، ولكن ماذا عن بعض مخاطر الذكاء الاصطناعي الأقل احتمالاً والتي لا تزال محتملة والتي يمكن أن نراها في المستقبل؟ وتشمل هذه أشياء مثل برمجة الذكاء الاصطناعي لإيذاء البشر، على سبيل المثال، الأسلحة المستقلة المدربة على القتل أثناء الحرب.

ثم هناك خطر أن يركز الذكاء الاصطناعي بشكل منفرد على هدفه المبرمج، وتطوير سلوكيات مدمرة أثناء محاولته تحقيق هذا الهدف بأي ثمن، حتى عندما يحاول البشر منع حدوث ذلك.

^(Skynet)علمتنا Skynet ما يحدث عندما يصبح الذكاء الاصطناعي واعيًا. ومع ذلك، على الرغم من أن مهندس Google Blake Lemoine ربما حاول إقناع الجميع بأن LaMDA، مولد روبوتات الدردشة الذكي من Google كان واعيًا^{(LaMDA, Google’s artificially intelligent chatbot generator was sentient)} في يونيو 2022^{(June 2022)} ، إلا أنه لا يوجد دليل حتى الآن يشير إلى صحة ذلك.

تحديات تنظيم الذكاء الاصطناعي

في يوم الاثنين الموافق 15 مايو 2022، حضر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، أول جلسة استماع في الكونجرس حول الذكاء الاصطناعي^{(OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence)} ، محذرًا: "إذا سارت هذه التكنولوجيا على نحو خاطئ، فمن الممكن أن تسوء تمامًا". أوضح OpenAI CO أنه يفضل التنظيم وقدم العديد من أفكاره الخاصة إلى جلسة الاستماع . ^{(OpenAI CO)}المشكلة هي أن الذكاء الاصطناعي يتطور بهذه السرعة، ومن الصعب معرفة من أين نبدأ بالتنظيم.

يريد الكونجرس^(Congress) تجنب ارتكاب نفس الأخطاء التي ارتكبت في بداية عصر وسائل التواصل الاجتماعي، ويعمل فريق من الخبراء إلى جانب زعيم الأغلبية في مجلس الشيوخ تشاك شومر^{(Senate Majority Leader Chuck Schumer)} بالفعل على وضع لوائح تلزم الشركات بالكشف عن مصادر البيانات التي استخدمتها لتدريب النماذج ومن هو دربتهم. ومع ذلك، قد يستغرق الأمر بعض الوقت قبل أن تتضح بالضبط كيفية تنظيم الذكاء الاصطناعي، ولا شك أنه سيكون هناك رد فعل عنيف من شركات الذكاء الاصطناعي.

تهديد الذكاء^(Threat) العام الاصطناعي^{(Artificial General Intelligence)}

هناك أيضًا خطر إنشاء ذكاء اصطناعي عام ( AGI ) يمكنه إنجاز أي مهام يمكن أن يؤديها إنسان (أو حيوان). غالبًا ما^(Often) يتم ذكره في أفلام الخيال العلمي، ربما لا نزال على بعد عقود من مثل هذا الإبداع، ولكن إذا قمنا بإنشاء الذكاء الاصطناعي العام^(AGI) ، فقد يشكل ذلك تهديدًا للبشرية.

تؤيد العديد من الشخصيات العامة بالفعل الاعتقاد بأن الذكاء الاصطناعي يشكل تهديدًا وجوديًا للبشر، بما في ذلك ستيفن هوكينج^{(Stephen Hawking)} ، وبيل جيتس^{(Bill Gates)} ، وحتى الرئيس التنفيذي السابق لشركة جوجل إريك شميدت^{(Google CEO Eric Schmidt)} ، الذي صرح بأن "الذكاء الاصطناعي يمكن أن يشكل مخاطر وجودية وتحتاج الحكومات إلى معرفة كيفية التأكد من ذلك". ولا يتم إساءة استخدام التكنولوجيا من قبل الأشرار.

إذن، هل الذكاء الاصطناعي خطير، وهل مخاطره تفوق فوائده؟ لا تزال هيئة المحلفين غير متأكدة من هذا الأمر، لكننا نرى بالفعل أدلة على بعض المخاطر المحيطة بنا في الوقت الحالي. ومن غير المرجح أن تؤتي المخاطر الأخرى ثمارها في أي وقت قريب، هذا إن كانت ستتحقق على الإطلاق. ومع ذلك، هناك شيء واحد واضح: لا ينبغي الاستهانة بمخاطر الذكاء الاصطناعي. من الأهمية بمكان أن نضمن تنظيم الذكاء الاصطناعي بشكل صحيح منذ البداية، لتقليل أي مخاطر مستقبلية والتخفيف منها.

Is Artificial Intelligence (AI) Dangerous?

On Mondау, May 22, 2023, а verіfied Twitter account called “Blоomberg Feеd” shared a tweet claiming there had been an explosion at the Pentagon, accompanied by an image. If you’re wondering what this has to do with artificial intelligence (AI), the image was an AI-generated one, with the tweet quickly going viral and sparking a brief stock market dip. Things could have been much worse — a stark reminder of the dangers of artificial intelligence.

Artificial Intelligence Dangers

It’s not just fake news we need to worry about. There are many immediate or potential risks associated with AI, from those concerning privacy and security to bias and copyright issues. We’ll dive into some of these artificial intelligence dangers, see what is being done to mitigate them now and in the future, and ask whether the risks of AI outweigh the benefits.

Fake News

Back when deepfakes first landed, concerns arose that they could be used with ill intent. The same could be said for the new wave of AI image generators, like DALL-E 2, Midjourney, or DreamStudio. On March 28, 2023, fake AI-generated images of Pope Francis in a white Balenciaga puffer jacket, and enjoying several adventures, including skateboarding and playing poker went viral. Unless you studied the images closely, it was hard to distinguish these images from the real thing.

While the example with the pope was undoubtedly a bit of fun, the image (and accompanying tweet) about the Pentagon was anything but. Fake images generated by AI have the power to damage reputations, end marriages or careers, create political unrest, and even start wars if wielded by the wrong people — in short, these AI-generated images have the potential to be hugely dangerous if misused.

With AI image generators now freely available for anybody to use, and Photoshop adding an AI image generator to its popular software, the opportunity to manipulate images and create fake news is greater than ever.

Privacy, Security, and Hacking

Privacy and security are also huge concerns when it comes to the risks of AI, with a number of countries already banning OpenAI’s ChatGPT. Italy has banned the model due to privacy concerns, believing it does not comply with the European General Data Protection Regulation (GDPR), while China, North Korea, and Russia’s governments banned it due to fears it would spread misinformation.

So why are we so concerned about privacy when it comes to AI? AI apps and systems gather large amounts of data in order to learn and make predictions. But how is this data stored and processed? There’s a real risk of data breaches, hacking, and information falling into the wrong hands.

It’s not just our personal data that’s at risk, either. AI hacking is a genuine risk — it hasn’t happened yet, but if those with malicious intent could hack into AI systems, this could have serious consequences. For example, hackers could control driverless vehicles, hack AI security systems to gain entry to highly secure locations, and even hack weapons systems with AI security.

Experts at the US Department of Defense’s Defense Advanced Research Projects Agency (DARPA) recognize these risks and are already working on the DARPA’s Guaranteeing AI Robustness Against Deception (GARD) project, tackling the problem from the ground up. The project’s goal is to ensure that resistance to hacking and tampering is built into algorithms and AI.

Copyright Infringement

Another of the dangers of AI is copyright infringement. This may not sound as serious as some other dangers we’ve mentioned, but the development of AI models like GPT-4 puts everyone at increased risk of infringement.

Every time you ask ChatGPT to create something for you — whether that be a blog post on travel or a new name for your business — you’re feeding it information which it then uses to answer future queries. The information it feeds back to you could be infringing somebody else’s copyright, which is why it’s so important to use a plagiarism detector and edit any content created by AI before publishing it.

Societal and Data Bias

AI isn’t human, so it can’t be biased, right? Wrong. People and data are used to train AI models and chatbots, which means biased data or personalities will result in a biased AI. There are two types of bias in AI: societal bias and data bias.

With many biases present in everyday society, what happens when these biases become part of AI? The programmers responsible for training the model could have expectations that are biased, which then make their way into AI systems.

Or data used to train and develop an AI could be incorrect, biased, or collected in bad faith. This leads to data bias, which can be as dangerous as societal bias. For example, if a system for facial recognition is trained using mainly white people’s faces, it may struggle to recognize those from minority groups, perpetuating oppression.

Robots Taking Our Jobs

The development of chatbots such as ChatGPT and Google Bard has opened up a whole new worry surrounding AI: The risk that robots will take our jobs. We’re already seeing writers in the tech industry being replaced by AI, software developers worried they’ll lose their jobs to bots, and companies using ChatGPT to create blog content and social media content rather than hiring human writers.

According to the World Economic Forum’s The Future of Jobs Report 2020, AI is expected to replace 85 million jobs worldwide by 2025. Even if AI doesn’t replace writers, it’s already being used as a tool by many. Those in jobs at risk of being replaced by AI may need to adapt to survive — for example, writers may become AI prompt engineers, enabling them to work with tools like ChatGPT for content creation rather than being replaced by these models.

Future Potential AI Risks

These are all immediate or looming risks, but what about some of the less likely but still possible dangers of AI we could see in the future? These include things like AI being programmed to harm humans, for example, autonomous weapons trained to kill during a war.

Then there’s the risk that AI could focus single-mindedly on its programmed goal, developing destructive behaviors as it attempts to accomplish that goal at all costs, even when humans try to stop this from happening.

Skynet taught us what happens when an AI becomes sentient. However, though Google engineer Blake Lemoine may have tried to convince everyone that LaMDA, Google’s artificially intelligent chatbot generator was sentient back in June 2022, there’s thankfully no evidence to date to suggest that’s true.

The Challenges of AI regulation

On Monday, May 15, 202, OpenAI CEO Sam Altman attended the first congressional hearing on artificial intelligence, warning, “If this tech goes wrong, it can go quite wrong.” The OpenAI CO made it clear he favors regulation and brought many of his own ideas to the hearing. The problem is that AI is evolving at such speed, it’s difficult to know where to start with regulation.

Congress wants to avoid making the same mistakes made at the beginning of the social media era, and a team of experts alongside Senate Majority Leader Chuck Schumer are already working on regulations that would require companies to reveal what data sources they used to train models and who trained them. It may be some time before exactly how AI will be regulated becomes clear, though, and no doubt there will be backlash from AI companies.

The Threat of an Artificial General Intelligence

There’s also the risk of the creation of an artificial general intelligence (AGI) that could accomplish any tasks a human being (or animal) could perform. Often mentioned in sci-fi films, we’re probably still decades away from such a creation, but if and when we do create an AGI, it could pose a threat to humanity.

Many public figures already endorse the belief that AI poses an existential threat to humans, including Stephen Hawking, Bill Gates, and even former Google CEO Eric Schmidt, who stated, “Artificial intelligence could pose existential risks and governments need to know how to make sure the technology is not misused by evil people.”

So, is artificial intelligence dangerous, and do its risk outweigh its benefits? The jury’s still out on that one, but we’re already seeing evidence of some of the risks around us right now. Other dangers are less likely to come to fruition anytime soon, if at all. One thing is clear, though: the dangers of AI shouldn’t be underestimated. It’s of the utmost importance that we ensure AI is properly regulated from the outset, to minimize and hopefully mitigate any future risks.

Related posts

• كيفية استخدام Resource Monitor في Windows

• 11 طريقة لبدء تشغيل مراقب الأداء في Windows (جميع الإصدارات)

• احصل على تقرير صحي لجهاز الكمبيوتر أو الجهاز الذي يعمل بنظام Windows 10 ، واطلع على كيفية أدائه

• 7 أشياء يمكنك القيام بها باستخدام أداة إدارة الأقراص في Windows

• كيفية إعداد نظام من البداية: أفضل ترتيب لتثبيت كل شيء

• طريقتان لإنشاء قسم في Windows (جميع الإصدارات)

• كيفية تحديث البرنامج الثابت لأي نوع من الأجهزة -

• حل المشكلة: السحب والإفلات لا يعملان في Windows -

• Windows 10 Update Assistant: قم بالترقية إلى تحديث مايو 2021 اليوم!

• كيفية إدخال BIOS في نظام التشغيل Windows 10

• كيفية إزالة هاتفك من Windows 10 (إلغاء ربط الهاتف)

• متطلبات النظام: هل يمكن لجهاز الكمبيوتر الخاص بي تشغيل Windows 11؟

• اختبار وإصلاح الأخطاء على محركات الأقراص الخاصة بك باستخدام Check Disk (chkdsk) في Windows 7

• ما هو الرقم التسلسلي لجهاز الكمبيوتر الشخصي الذي يعمل بنظام Windows أو الكمبيوتر المحمول أو الجهاز اللوحي ، وما إلى ذلك؟

• كيفية قفل Windows 10 تلقائيًا بهاتفك الذكي

• أسئلة بسيطة: ما هو exFAT ولماذا هو مفيد؟

• 7 أشياء يمكنك القيام بها باستخدام Device Manager من Windows

• كيفية اختبار ذاكرة الوصول العشوائي الخاصة بك باستخدام أداة تشخيص ذاكرة Windows -

• كيفية إلغاء تجزئة الأقراص الثابتة والأقسام وتحسينها في Windows

• 7 طرق لمراقبة أداء أنظمتك باستخدام مدير المهام