В ответ компания разрабатывает методы раннего обнаружения мошеннических действий, увеличивает количество команд, работающих над безопасностью ИИ, и экспериментирует с технологиями удостоверения подлинности цифрового контента, такими как C2PA.
Искусственный интеллект
Ведь текущий месяц ознаменовался там формированием предварительного соглашения о надзоре за технологией. Администрация Байдена тоже потребовала от законодателей регулирования ИИ, но Конгресс движется подобно улитке. Запад печалится относительно успехов в этой сфере китайцев и россиян. Эти начали изучать потенциал программ для совершенствования хакерских атак. Microsoft минувшем месяцем даже поймали взломщиков, использовавших OpenAI.
Боб: «I can can I I everything else». Алиса: «Balls have zero to me to me to me to me to me to me to me to me to». Движение сопротивления Человечество сопротивлялось развитию технологий практически всю свою современную историю, и нейросети не могли стать исключением. Формы у сопротивления развитию ИИ принимают самые разные очертания.
В нашей стране, например, в конце апреля 2023 г. Патриаршая комиссия по вопросам семьи, защиты материнства и детства при Русской православной церкви заявила о необходимости установить запрет на антропоморфизацию программ использование в их работе образа человека и его черт и закрепить на законодательном уровне дисклеймер для нейросетей, предупреждающий пользователя о том, что он общается с ИИ. Месяцем ранее, в конце марта, главный «марсианин» человечества, основатель Tesla Илон Маск, сооснователь Apple Стив Возняк и еще свыше тысячи экспертов мира высоких технологий подписали открытое письмо с призывом остановить обучение нейросетей. Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? В первую очередь они обратились к разработчикам, но из текста письма можно заключить, что они допускают вмешательство правительств государств мира в этот процесс. Впрочем, две недели спустя после публикации открытого письма стало известно, что Маск создал новую компанию в сфере искусственного интеллекта, под названием X.
Эта история наглядно показывает, что на текущий момент о реальном ограничении разработок в области ИИ никакой речи не идет. Пока все сводится к тому, что программисты запрещают ИИ употреблять слово «негр», оскорблять чувства различных меньшинств, обсуждать методики создания бомбы в домашних условиях и прочее в том же духе. Вместо заключения Совсем недавно, 1 мая 2023 г. В течение полувека он разрабатывал технологию, лежащую в основе чат-ботов, таких как ChatGPT. Но теперь он всерьез беспокоится, что ИИ причинит серьезный вред людям. Непосредственно в Google этот британско-канадский ученый проработал более 10 лет, занимаясь развитием алгоритмов машинного обучения. В 2018 г. Хинтон с двумя коллегами за свою работу над нейронными сетями получил премию Тьюринга, которую негласно называют Нобелевской премией в области вычислительной техники.
По утверждению газеты, теперь Хинтон присоединился к ярым критикам компаний, разрабатывающих ИИ. По его словам, стремительное совершенствование ИИ «пугает» его.
Нейросеть активируется по команде "Алиса, давай придумаем". Виртуальный помощник может написать сценарий для мероприятия или детского праздника, составить деловое письмо, предложить план путешествия и пр. Пока технология работает в режиме тестирования. Как заявляют сами разработчики, Алиса может ошибаться в фактах, но это не отражается на ее креативных способностях. Обучение нейросети проходило в два этапа на собственных суперкомпьютерах "Яндекса". Это самый мощный вычислительный кластер в России и Восточной Европе.
Пользователю не надо напрягаться, думать за него будет компьютер. Искусственный интеллект, конечно, может и ошибаться. Но люди также ошибаются, и можно допустить, что средний человек сделает больше ошибок, чем «обученная» система. Проблема доверия к искусственному интеллекту состоит не в возможности ошибки как таковой, а в неприменимости к компьютерным системам понятия ответственности. Действия человека всегда связаны с последствиями для него лично. Если он ошибётся, ему это каким-либо образом аукнется. Мы осознаём, что всякая ошибка имеет свою цену, а если что-то прошло мимо сознания, подключается подсознание — человеку просто не хочется что-то делать, как говорится, «душа не лежит». Или наоборот: значимость последствий работает как стимулятор. Человек мобилизуется, включает внимание, уделяет задаче больше времени, тратит больше сил и энергии. Так или иначе, риск ошибки отражается на нашей деятельности, и в итоге получается, что чем больше риск, тем менее вероятна ошибка. У искусственного интеллекта нет шкуры, на которой он мог бы почувствовать последствия своих решений. Компьютерная система — не субъект. Программисты пытаются создать эмуляцию сознания, закладывая в систему аналоги потребностей, чувств, интуиции и обучая компьютер уходить от жёсткой детерминированности. Но всё это, в сущности, — не более чем имитация. Искусственный интеллект способен симулировать личность, но никогда ею не будет, поскольку осознание себя не является результатом вычисления. А это значит, что фактор риска компьютерная система будет обрабатывать иначе, чем человек. Не обладая сознанием опасности, программный комплекс способен учитывать лишь те риски, которые уже распознаны и определены. Между тем, в реальной жизни каждая новая ситуация может иметь новые, не встречавшиеся прежде последствия. Эта область неизвестного в программных расчётах не учитывается, и потому любой программный комплекс, каким бы надежным он ни казался, работая в области определённого знания, по определению уязвим: достаточно возникновения неожиданных обстоятельств относящихся к новому, не встречавшемуся ранее классу , и система ошибётся. Возникновение таких ошибок не зависит от степени угрозы: система равновероятно пропустит и «копеечный» укол и разрушительный удар, если они последуют из «слепой» зоны. Когда ответственность лежит на человеке, это означает, что он стремится обеспечить результат, невзирая на обстоятельства. Иными словами, предполагается, что человек управляет результатом своих действий. Он может ставить цели, добиваться их достижения или менять их, если цена их достижения покажется ему слишком высокой.
Искусственный интеллект модифицировал медицину
Ну и в качестве развлечения, фрагмент из фильма про одного на всю голову отмороженного гангстера. Очень рекомендую, кстати, если кто ещё не смотрел. И убедительнейшая просьба, товарищи: без политики. Мы разговариваем строго об искусственном интеллекте и его приложениях в различных областях человеческой деятельности.
Мы обсудили, что это за технология, из чего она состоит и является ли по сути «интеллектом» в общепринятом смысле слова. На конкретных примерах рассмотрели, какие задачи способен выполнить искусственный интеллект, а какие нет. Вместе с экспертом мы также попрактиковались в составлении запросов нейросети, в том числе связанных с системами ЖАТ.
Английский язык.
Без знания этого иностранного языка невозможно стать востребованным специалистом в сфере ИИ: все новые статьи и разработки, в первую очередь появляются в зарубежных источниках. Базы данных БД , которые используют для хранения и организации данных, на которых впоследствие обучают модели машинного обучения и нейросети. Какие технологии на основе ИИ может использовать любой бизнес Большинство корпоративных решений на базе искусственного интеллекта — внутренние дорогостоящие разработки, для создания которых необходима команда IT-специалистов и менеджеров. Например, в банках AI используют в кредитных продуктах для скоринга: благодаря этому можно автоматически принять решение по выдаче кредита. Внедряют такие инструменты и на производстве, например, в BMW ИИ используют , чтобы оценить изображения компонентов и выявить в них отклонения от стандарта в режиме реального времени. Тем не менее, есть и такие технологии, которые может использовать любой бизнес: для этого берут готовое решение и дорабатывают под собственные нужды. Компьютерное зрение Это набор технологий, который позволяет при помощи нейросетей обрабатывать визуальную информацию с камер.
Благодаря машинному зрению можно распознавать штрих-коды, текст, изображения, в т. Например, биометрическая система позволяет верифицировать личность для доступа в офис или для оплаты товаров и услуг, а в «Пятерочке» ее применяют для «узнавания» постоянных клиентов, чтобы автоматически предлагать им скидки, и для выявления серийных магазинных воров. С помощью системы распознавания жестов же можно взмахом руки попросить переключить музыку или изменить громкость трека. Так, Google внедрила ее в мобильные устройства и умные колонки, а Huawei — в свой флагманский смартфон. Такие инструменты повышают безопасность и уровень сервиса, ведь человеку не приходится вводить дополнительные данные для проверки или нажимать на кнопки для управления оборудованием. Например, российский сервис Directum RX помогает классифицировать входящие электронные письма и документы по типам, чтобы снизить время их обработки, а другая отечественная RPA Sherpa проверяет контрагентов перед заключением договора. Прогнозные модели Такие инструменты могут применяться в абсолютно разных сферах: от ритейла чтобы предсказывать продажи в супермаркетах, как это делает X5 Retail Group для каждого из своих 16 000 магазинов до логистики, чтобы планировать поставки.
А ещё Яндекс штрафует за неоригинальный контент перепечатки из других источников , ограничивая показы. Пиши сам, пиши интересно, тебя будут читать, и чем больше прочтут, тем больше аудитория у тебя будет. Схема выглядит справедливой, а стало быть, её реализацию можно только приветствовать. Но есть подводный камень, о который всё разбивается. Конечным критерием, лежащим в основании всей механики Яндекс-Дзен, является поведение пользователей. А наше поведение вовсе не безупречно.
Человек не очень-то любит интеллектуально трудиться. Мы, конечно, читаем при необходимости и серьёзные материалы, но с гораздо большим удовольствием мы будем перелистывать красивые картинки, смотреть забавные сюжеты, читать что-нибудь короткое, лёгкое и занимательное. Такой контент мы будем раскрывать гораздо чаще. С другими поведенческими показателями тут тоже будет всё в порядке: короткий текст проще дочитать до конца, и в совокупности на этот информационный «песок» — маленькие и пустые сообщения — у нас уйдёт больше времени, чем на считанные обращения к длинным и серьёзным текстам. Распознав наши предпочтения, искусственный интеллект скорректирует персональную выдачу, наполнив нашу ленту её ещё большим количеством подобных материалов. Развлекать себя станет проще, а вероятность обнаружить что-нибудь действительно стоящее будет стремиться к нулю.
Некоторое раздражение по этому поводу, неизбежно присутствующее поначалу, со временем уйдёт — человек хорошо адаптируется и привыкает к любой информационной среде. Аналогичный механизм действует и в отношении авторов публикаций. Поскольку незатейливые и короткие материалы легко находят аудиторию, именно они собирают показатели, необходимые для стабильного существования блога внутри Яндекс-Дзен. Что бы там ни думал автор, если он хочет сделать свой блог популярным, его материалы должны быть скорее развлекательными, чем серьёзными. На выходе мы получаем систему, в которую заложена тенденция понижения интеллектуального уровня публичной среды или, попросту говоря, работающую на оглупление общества. При этом, заметим, никаких специальных установок на этот счёт не предусмотрено.
Нет никакой злой воли. Просто процесс полностью отдан под контроль искусственному интеллекту. Этого оказалось достаточно. Развитие возможно лишь там, где с людьми взаимодействуют люди. Поскольку человек учитывает больше факторов, чем может быть заложено в алгоритм, имеет свои предпочтения, на основании которых корректирует обратную связь, умеет переступать через правила и нарушать предписания, взаимодействие с ним, оказывается, по определению более насыщенным.
Искусственный интеллект и будущее нейросетей: взгляд эксперта из «Яндекса»
В ответ компания разрабатывает методы раннего обнаружения мошеннических действий, увеличивает количество команд, работающих над безопасностью ИИ, и экспериментирует с технологиями удостоверения подлинности цифрового контента, такими как C2PA. На современном этапе создание и развитие искусственного интеллекта (ИИ) связано с попытками в той или иной мере имитировать работу человеческого мозга. На конкретных примерах рассмотрели, какие задачи способен выполнить искусственный интеллект, а какие нет. Распространение технологий искусственного интеллекта (ИИ, AI), стратегия его развития в России и мире, проблемы с внедренияем и сбоями ИИ, использование ИИ в «умных домах» и «умных городах», на финансовом рынке, в управлении, промышленности и ритейле.
Искусственный интеллект в медицине: как это работает? Реальные примеры
Бурное развитие технологий искусственного интеллекта (ИИ) и их применение в самых различных областях — главный технологический тренд уходящего года. На международной конференции «Путешествие в мир искусственного интеллекта» (AI Journey) состоялась главная дискуссия «Революция генеративного ИИ: новые возможности». На международной конференции «Путешествие в мир искусственного интеллекта» (AI Journey) состоялась главная дискуссия «Революция генеративного ИИ: новые возможности».
Яндекс-Дзен как пример ограниченности искусственного интеллекта
«Дзен» является примером реализации технологии специализированного искусственного интеллекта[8]. В этом посте я рассказал вам о том, как формируется лента персональных рекомендаций в ре, и почему Дзен – это не очередная «лента новостей», а результат работы серьезных технологий. Наработки из области искусственного интеллекта уже сейчас. Искусственный интеллект. "Искусственный интеллект не может передать, к примеру, русскую душу, не может делать пока что юмор смешным, потому это тонкая вещь, в этом пока что есть граница.
«Искусственный интеллект никогда не ошибается. За ним будущее»
Система классификации должна включать три основные категории: Высокая. Технологии, которые имеют высокий уровень риска, требуют запрета использования, поскольку могут привести к непоправимым для общества и экономики последствиям. Технологии, которые имеют высокий уровень риска, требуют особого внимания и контроля со стороны государства и общества. К ним относятся технологии, которые могут привести к экономическим потерям, нарушению конфиденциальности данных или другим серьёзным последствиям. Технологии с низким уровнем риска могут использоваться без особых ограничений.
Маркировка контента, созданного с использованием нейросетей: защита от дипфейков и сохранение уникальности искусства Следующим шагом должна стать маркировка контента, созданного с использованием нейросетей. Искусственный интеллект уже способен генерировать тексты, изображения, видео и аудиозаписи, что открывает новые возможности для творчества, но также создает угрозу злоупотребления. Мошенники все чаще используют дипфейки для распространения дезинформации и вымогания денежных средств. Представители искусства также выражают обеспокоенность по поводу дипфейков.
Председатель Союза кинематографистов Н. Михалков считает, что дипфейки представляют «страшную опасность», и отмечает, что использование этой технологии может привести к «непредвиденным последствиям», таким как потеря уникальности и ценности работы артистов. Для обеспечения прозрачности и доверия в цифровом пространстве необходимо разработать систему, которая будет анализировать контент и определять, создан ли он человеком или сгенерирован нейросетью. Это позволит оперативно удалять нежелательный контент и привлекать к ответственности нарушителей.
Ответственность за системы искусственного интеллекта: кто и за что отвечает? Ответственность за системы ИИ должна возлагаться на поставщика. Поставщик — это физическое или юридическое лицо, которое размещает систему на рынке или вводит ее в эксплуатацию. Независимо от того, кто спроектировал или разработал систему, именно поставщик должен гарантировать её соответствие всем необходимым стандартам и требованиям безопасности.
В марте 2021 года виджеты стали появляться не только непосредственно в материалах блогеров, но и на карточках статей в ленте, а также под самими статьями [33]. На первом этапе запуска ленты с короткими видео «Ролики» Яндекс выделил на вознаграждения блогерам 50 млн рублей [22]. Дзен оставляет за собой право не платить за статьи, если усмотрит в них поляризацию мнений. Материал будет рекомендоваться без ограничений, но не будет приносит доход.
Так получится , если публикация относится к остросоциальной тематике. В 2009 году был создан метод машинного обучения «Матрикснет», ставший одним из ключевых компонентов системы, на которой работает «Дзен» [6]. Первый сервис «Яндекса», в котором появились технологии рекомендаций, — « Яндекс. Музыка », был запущен в сентябре 2014 года.
Затем эти технологии также были внедрены в « Яндекс. Маркете » и « Яндекс. Радио » [36]. В июне 2015 года в бета-режиме стал доступен «Дзен» [36].
Браузера » на Android , имеющих учётную запись в «Яндексе». До этого «Дзен» был доступен в экспериментальном режиме на странице zen. В последующие месяцы в «Дзен» были добавлены другие виды контента : фотогалереи, статьи, блоги , форумы , видео с YouTube и так далее [38]. По состоянию на апрель 2017 года «Дзен» доступен на более чем 50 языках и в более чем 100 странах, в том числе в США , Индии и Бразилии [1].
В 2017 году «Дзен» запустил на своей платформе особый формат — нарратив , адаптированный для просмотра на мобильных устройствах. Это набор слайдов с текстами, фото, видео и GIF-изображениями. С осени 2017 года нарративы тестировали медиасервисы, а с января 2018 года формат стал доступен и авторам платформы Дзена [39].
И наоборот, если пользователь ставит дизлайки к публикациям на определённую тему и блокирует источники, то таких материалов в его ленте будет меньше [13]. Предсказание интересов пользователя с помощью коллаборативной фильтрации Технология, лежащая в основе «Дзена», была адаптирована Яндексом и CERN для использования на Большом адронном коллайдере. С помощью неё проводится глубокий анализ результатов физических экспериментов на БАКе [14]. Платформа для создания контента править В 2017 году Яндекс объявил о запуске платформы, позволяющей компаниям и независимым авторам публиковать медиаконтент статьи, фото, видео напрямую в «Дзен» [15]. Платформа также позволяет создателям контента зарабатывать на своих материалах, подключив рекламу [15].
За 2019 год компания выплатила авторам более 1 млрд рублей [16] [17]. До запуска платформы ленты пользователей «Дзен» состояли только из публикаций, отобранных из общедоступных источников [18]. По заверению руководства сервиса, стоит цель создать социальную медиаплатформу, где создатели контента общаются с читателями, а также вырастить внутри «Дзена» авторов, для которых он станет ключевой площадкой [19]. Создавать и редактировать контент можно с помощью десктопного редактора, а также через мобильное приложение [20]. В сентябре 2019 года, после нескольких месяцев тестирования, для всех пользователей платформы стала доступна функция размещения видеороликов с максимальной длительностью 15 минут. Уже на этапе тестирования новый формат приобрёл большую популярность, чем текстовый, и в апреле 2020 года сервис увеличил длину размещаемых видеороликов до 60 минут, а также начал внедрять рекламу в видеоматериалы, которые длятся больше двух минут [21]. В июне 2021 года стало известно, что «Яндекс» купил видеоредактор Hypee, чтобы у пользователей «Дзена» была возможность экспериментировать с эффектами и музыкой в роликах [23]. Нирвана править В 2018 году Дзен запустил программу «Нирвана» [24] для поддержки авторов и медиа, создающих качественный контент.
Участники программы получают приоритет в показах в лентах «Дзена». Кроме того, у каждого из них есть персональный менеджер, который сообщает автору о нарушениях, даёт советы по ведению канала [25]. Для попадания в программу авторам необходимо соответствовать ряду условий: На Дзен-канале должно быть 100 подписчиков; Не менее трёх материалов за прошедший месяц; Соблюдение правил «Дзена» [26]. Монетизация править Возможность монетизации появилась, когда в 2017 году Дзен стал платформой для создания контента, а не только его распространения [27]. Зарегистрированные в «Дзене» блогеры могли получать за свои посты деньги если они собрали минимум 7 000 дочитываний за неделю [28]. В 2019 году «Дзен» выплатил авторам за размещение рекламы в статьях более 1 млрд рублей [29].
В отличие от предыдущих языковых моделей, нейросеть YandexGPT обучили на сотнях тысяч примеров содержательных ответов, написанных людьми. Для этого была задействован краудсорсинг "Яндекса" и команда AI-тренеров. Так как YandexGPT не подключена к интернету, то, соответственно, набор актуальных сведений о мире для нее заканчивается началом 2023 года, но при этом дообучение с помощью AI-тренеров продолжается постоянно. По мнению Алексея Гусакова, руководителя управления машинного интеллекта и исследований "Яндекса", сегодня невозможно добиться качественного скачка в машинном обучении только за счет увеличения размеров нейросетевой модели: "Важно качество датасета, на котором обучается модель и последующее дообучение с привлечением живых людей". При этом русский язык в ChatGPT поддерживается на достаточно высоком уровне. В отличие от YandexGP, которая последовательно отвечает на каждый запрос как на новый, ChatGPT способен поддерживать осмысленный диалог с учетом полученных ранее вопросов и команд.
Искусственный интеллект увеличил надежность сети билайна
По идее, разработанная технология на базе искусственного интеллекта (ИИ) должна была вызвать слезы умиления, но в реальности к создателям проекта возникли серьезные вопросы. Инженер Google Блейк Лемойн, который недавно заявил, что ИИ LaMDA, над которым давно работает поисковый гигант, имеет собственное сознание и разум, поделился большим интервью с этим самым ИИ. Искусственный интеллект должен быть искусственным. Реальный интеллект должен отражать реальные представления человечества о мироздании. Искусственный интеллект Snapchat опубликовал историю, а затем удалил её 1.
Содержание
- Публикации
- Что принесет человечеству стремительный прогресс ИИ
- ИИ-новации в Сбере: искусственный интеллект и не только
- Материалы рубрики