Метка: #информационная безопасность

Прогресс или угроза?

Влияние искусственного интеллекта на человека.

«Без учебы и труда не придёт на стол еда».

Эпоха искусственного интеллекта (ИИ) открывает перед человечеством невиданные возможности, автоматизируя повседневные задачи и предоставляя решения, ранее казавшиеся невозможными. Эта технология стремительно проникает во все сферы нашей жизни, создавая удобство, эффективность и новые возможности.

Так звучит официальная реклама этого нового «чуда техники» и программирования. Однако, вместе с восхищением технологическим прогрессом, всё больше возникают серьезные опасения по поводу его потенциального влияния общество. Наряду с преимуществами, возникает и немалый ряд опасностей влияющих на сознание, развитие и когнитивную безопасность человека, так как это «чудо» меняет наши способы работы, обучения и общения в связи с тем что — чрезмерная зависимость от автоматизации может привести к ухудшению когнитивных способностей, снижению социальных навыков, и даже потере мыслительного и творческого потенциала. Но не будем впадать в крайности и призывать уничтожить все достижения в этой сфере. Давайте разберём подробнее по пунктам, какие плюсы даёт нам использование Искусственного «Интеллекта» (ИИ) и какие последствия нас могут ожидать при его повседневном использовании.

Современные люди всё чаще полагаются на компьютерные алгоритмы в принятии решений, поиске информации и даже в творческих процессах. Перекладывание обязанностей по решению важных задач для ускорения, упрощения, большей точности и т. д., приводит к тому, что мозг человека, перестаёт активно функционировать, постепенно «ленится», утрачивая свою гибкость и способность к самостоятельному мышлению.

Искусственный «интеллект» при работе в Сети анализирует наши предпочтения и поведение, способен при помощи персонализированной информации подобранной алгоритмами, воздействовать и формировать наше представление о себе и окружающем мире на своё усмотрение, что может привести к размыванию границ собственной идентичности и утрате способности к самостоятельному формированию взглядов и убеждений. И потому одна из главных опасностей ИИ, это деградация когнитивных навыков и разрушение когнитивной системы личности.

Что же это за система такая, и почему она для нас так важна?

Когнитивная система (от лат. cognitio — «познание, представление»). Это система познания, которая складывается в сознании человека в результате становления характера, воспитания, обучения, наблюдения и размышления об окружающем мире. Так было раньше. А сегодня этого делать почти нужно. Повсеместное использование ИИ от навигационных систем до алгоритмов подбора информации, может привести к ослаблению навыков самостоятельного мышления и решения проблем. Поисковые системы и чат-боты предоставляют готовые ответы, из-за чего люди перестают анализировать информацию самостоятельно в надежде что за него это сделает компьютер и «кибер_интеллект». Когда ответы и решения предлагаются мгновенно, у человека снижается мотивация к самостоятельному поиску и анализу информации. Мозг, лишенный необходимости активно обрабатывать и анализировать получаемую информацию, постепенно утрачивает свои когнитивные функции, подобно мышцам, которые атрофируются без физических упражнений, что грозит потерей аналитического и критического мышления.

Использование цифровых помощников (например, голосовых ассистентов и напоминаний) снижает способность запоминать информацию. (Ухудшение памяти)

Когда алгоритмы принимают решения о том, что мы «хотим» видеть, слышать и читать в Сети, наш кругозор сужается, и подавляется способность мыслить нестандартно. Интеллектуальное развитие человека требует постоянной стимуляции и разнообразия.

Техническая помощь в наших повседневных делах

ИИ способен генерировать тексты, музыку и изображения, и постоянное его использование может подавлять креативность человека что представляет угрозу творческому развитию.

Если ИИ может написать эссе, сочинить песню или нарисовать картину, у людей пропадает стимул развивать собственные таланты. Когда есть возможность получить готовый текст нажатием одной кнопки это приведёт к потере мотивации делать это самостоятельно.

Алгоритмы часто предлагают стандартные решения, что ограничивает оригинальность идей. В следствии чего возникает т. н. — шаблонное мышление. (А шаблоны на своё усмотрение нам предлагает ИИ.)

Массовое использование ИИ для создания различного контента приводит к тому, что творчество человека воспринимается как боле трудоёмкое и менее ценное — происходит обесценивание искусства.

Навигаторы, голосовые помощники и автоматизированные системы лишают людей необходимости думать и принимать решения. Чем больше люди доверяют ИИ, тем сложнее им действовать самостоятельно без помощи алгоритмов — потеря самостоятельности, автономности. Развивается зависимость от технологий.

Привыкая полагаться на сетевые хранилища данных, ИИ и интернет в целом — общество становится беспомощным в случае технических сбоев или кибератак — критическая уязвимость перед сбоями.

Алгоритмы соцсетей и рекомендательных систем приучают мозг к быстрому переключению внимания, что мешает глубокой, вдумчивой работе и приводит к снижение концентрации и неумению анализировать.

ИИ, обладая огромным объемом информации о каждом из нас, может использоваться криминалом для манипулирования нашим сознанием и поведением. Алгоритмы, настроенные на продвижение определенных идей или товаров, способны незаметно влиять на наши решения и выборы. А если им пользуется криминал через пропаганду и фейковые новости — утрата способности контроля над манипуляциями.

Виртуальные ассистенты и чат-боты создают иллюзию общения — происходит замена живого общения на виртуальное. Но виртуальный мир не может дать настоящих эмоций и чувства эмпатии.

Общение с сетевыми «помощниками» снижает способность людей решать возникающие жизненные проблемы и конфликты, искать компромиссы и договариваться — деградация и потеря социальных навыков и навыков общения.

ИИ меняет способы взаимодействия между людьми, что может привести к добровольной социальной изоляции и эмоциональной холодности.Потребность в общении заложена в человека природой. С самого раннего детства взаимодействие с другими людьми влияет на развитие головного мозга, становление эмоциональной сферы и на здоровую жизнь. Кроме того, согласно ДОКЛАДА ВОЗ отсутствие реального общения может привести к ухудшению успеваемости в школе и снижению производительности труда, что ежегодно создает для экономики и общества миллиардные издержки. Социальное отчуждение, будь то одиночество или социальная изоляция, может иметь разрушительные последствия: оно повышает риск сердечно-сосудистых заболеваний, инсульта, депрессии, тревожных расстройств, деменции и преждевременной смерти. Но такие исследования мало кто читает. И потому первые «ростки» озвученная проблема уже дала.

Вот несколько примеров:

В Китае растет мода на отношения с искусственным интеллектом: вместо свиданий и ссор — идеальный виртуальный партнер, который всегда рядом, не критикует и пишет первым. К чему приведет такая любовь?

Идеальная пара: молодые китайцы все чаще заводят виртуальных парней и девушек в Maoxiang

Весь Китай учится любви у нейросетей

Согласно социальному опросу, главная причина, почему желающие не могут найти себе пару даже для свиданий – отсутствие достаточных социальных навыков. И потому Китай захлестнула страсть к одном приложению под названием «Любовный тренер с искусственным интеллектом». Он учит, как завести отношения и правильно беседовать на свидании. И судя по опросам, многие хотели бы выйти замуж или жениться на ИИ если бы это было законно. Т.к. у нейросети всегда хорошее настроение, она не спит, не устаёт, всегда доступна и поддержит беседы на любые темы. И потому это идеальное средство! …. для сокращения населения Земли!!!!!

Искусственный «интеллект» — это мощный инструмент и его бесконтрольное использование несёт огромные и серьёзные риски для полноценного психического и физического развития человека. Использование такой опасной технологии, это сложный и многогранный процесс, требующий осознанного подхода. И потому для детей дошкольного и младшего школьного возраста он должен быть полностью запрещён и недоступен. Детей нужно информировать о том, что есть такая технология, но она может выдавать недостоверные данные и обмануть любого человека.

Для школьников средних классов, использовать для ознакомления с технологией и примерами которые могут нести в себе опасность. На этих примерах развивать критическое мышление.

И только в старших классах, когда критическое мышление более-менее развито, можно давать полный доступ ко всем его функциям. Но в ограниченном количестве. Так как человечеству необходимо сохранить когнитивные способности, социальные навыки и творческий потенциал. А для этого важно соблюдать баланс между технологиями и самостоятельным мышлением. Общество должно научиться пользоваться ИИ как инструментом и помощником, а не как заменой человеческому интеллекту. Необходимо развивать критическое мышление, сохранять баланс между использованием технологий и реальным миром, а также защищать свою идентичность и свободу выбора. Только так мы сможем пользоваться преимуществами ИИ, минимизируя его негативное воздействие на нашу психику и сознание.

Иначе нас ждёт участь «Великого нехочухи» из старого советского мультфильма…

Круглый стол по защите детей от информации, причиняющей вред их здоровью и развитию.

10 сентября прошёл круглый стол по выработке профилактических мер, направленных на защиту несовершеннолетних от информации, причиняющей вред их здоровью и развитию.

Организаторами мероприятия выступили ГБУ АО «Центр «Надежда» и Центр по профилактике терроризма Приморского района.

Представители образовательных учреждений Архангельской области, Роспотребнадзора, Антитеррористической комиссии Архангельской области, областной прокуратуры, Роскомнадзора, Роспотребнадзора, областной КДН, обсудили музыкальные предпочтения современной молодежи. Проанализировав некоторые песни содержащих негативные языковые конструкции, пришли к выводу, что некоторые виды музыкальных молодежных течений и направлений содержат тексты негативно влияющие на психическое здоровье несовершеннолетних, и оказывают влияние на поведение несовершеннолетних и формируют у них негативную жизненную позицию. Также они могут провоцировать делинквентное и асоциальное поведение несовершеннолетних в окружающем обществе.

По итогам круглого стола был сформирован пакет предложений для внесения изменений в законодательство РФ, в части обеспечения безопасности несовершеннолетних и защиты их от информации, причиняющей вред здоровью и развитию.

Кибер-медиабезопасность = КМБ

Кибер-медиабезопасность. Что это такое?

Для понимания и использования в дальнейшем сокращённых названий, определимся с понятиями.

Киберпространство — это виртуальное понятие подразумевающее под собой пространство созданное компьютерными системами в сети Интернет.

Кибербезопасность — раздел информационной безопасности, в рамках которого изучают процессы функционирования киберобъектов. В ходе работы выявляются источники киберопасности, определяется степень их опасности и формируются определённые меры, выполнение которых должно гарантировать защиту киберобъектов от всех выявленных и изученных источников киберопасности. (Российская Wikipedia >>>)

В более простом и общепринятом понятии, подразумевает под собой обеспечение стабильной работы компьютерных сетей и систем, защиту и сохранность данных в компьютерных системах и сетях, и применение мер безопасности по предотвращению повреждения и утечки этих данных.

Выступая в ООН, президент в своей речи сделал замечание о важности соблюдения мер по обеспечению кибербезопасности.

Выступление Президента в ООН_22.09.2020 Фрагмент о кибербезопасности.

Но нас больше интересует «Кибербезопасность человека» — это обеспечение безопасности нахождения человека в киберпространстве и сети Интернет. Так же как ПДД это правила поведения человека на дорогах, так и кибербезопасность это некоторые определения и правила для обеспечения безопасности человека в киберпространстве. На первый взгляд может показаться что телефон, персональный компьютер или планшет ни какого вреда нанести не могут. Но это не совсем так. Сами они нанести не могут, но при небрежном отношении или не соблюдении требований безопасности может произойти всё что угодно. А в особенности если у этих устройств есть выход в сеть Интернет. Не исполнение элементарных правил и требований кибербезопасности может привести к самым разным последствиям и потерям.

Медиасреда — это всё окружающее нас информационное пространство, предназначенное для передачи информации человеку в виде аудио, видео, кино, фото и печатной продукции. В бумажном или электронном видах информации.
Медиабезопасность — подразумевает обеспечение безопасного психического, духовно-нравственного, а иногда и физического развития человека в окружающей его медиасреде.
Курс кибер-медиабезопасности предназначен для рассмотрения всех перечисленных вопросов, а также для обучения слушателей мерам цифровой гигиены и повышению их цифровой и медиаграмотности.