Новости интервью татьяна черниговская

Профессор СПбГУ Татьяна Черниговская, признанный эксперт по тайнам мозга, рассказала , почему современная система образования никуда не годится, стоит ли лишать детей гаджетов и зачем весь мир вкладывает миллиарды в изучение нейронных секретов. дети, образование, воспитание, права, обязанности, принуждение, татьяна черниговская, интервью По мнению профессора Черниговской, «элемент принуждения имеет большой. дети, образование, воспитание, права, обязанности, принуждение, татьяна черниговская, интервью По мнению профессора Черниговской, «элемент принуждения имеет большой воспитательный момент». Профессор Татьяна Черниговская – известный российский нейроученый, глава Института когнитивных исследований СПбГУ, член-корреспондент РАО – посетила Первую. Интервью с Т.В. Черниговской.

Ученая предупредила об опасности для человечества искусственного интеллекта и нейросетей

Его Набоков, знаете, даже по имени не называл. Он писал «этот венский шарлатан». Люди идут в церковь, как в стол заказов. А если вдруг заказ еще и не выполняют, они очень недовольны. Вот у меня новая кофеварка. Я ее все-таки выброшу. Может, даже сегодня. Она требует от меня каких-то интеллектуальных усилий, которые я не хочу тратить на нее. Я хочу, чтобы было две кнопки.

Ну, три: «капучино», «эспрессо» и «ристретто». Сейчас все спятили... Ты кому-то говоришь: «Это чашка», а он тебе отвечает: «Нет, это туманность Андромеды». Как будет дальше диалог идти? Если у меня будет выбор: пойти в музей современного искусства или в пинакотеку, я ни одной секунды не буду думать.

Человек — это память Человеческая память организована иначе, чем компьютерная. В компьютерной — файл лежит в определённой точке. А биологическая память распределяет всё очень странным способом. Вот, скажем, где именно лежит «собака»? Если слово «собака», то оно в той зоне, которая занимается словами; если запах собаки — в том месте, где запахи. А если собака мне вчера разбила любимую чашку — то она будет там, где лежат дорогие сердцу вещи. Можно сказать, что человек — это то, что мы помним. Если случится беда и нам, не дай бог, откажет память, то мы перестанем существовать как личность. Фрагмент картины Сальвадор Дали «Постоянство памяти», 1931 год Запахи как подсознательное Запахи — самое подсознательное или бессознательное из всех наших сенсорных модальностей. Это мы унаследовали от животных, правда, почти утратив способность к анализу запаху. Запахи очень сильно влияют на наше состояние и воспоминания. Это прямой вход в мозг. Мозг — игрушка дорогостоящая Мозг знает, каким нам быть. А вот мы мало знаем его клише. Мозг — это самодостаточная сущность и ему себя хватает. Он нами управляет. Наоборот будет тогда, когда сделают чипы и внедрят нам их в мозг, чтобы увеличить память или скорость и качество мозговых процессов. Это уже сращивание человека с компьютером. И не поймёшь, где заканчиваемся мы и начинается компьютер. Это большое испытание. А как быть с душой? Душа ведь это что-то совсем другое. Из разряда чувств, ощущений, чего-то смутного и расплывчатого. Где лежат эмоции Эмоции несомненно находятся в определённых отделах мозга. Один из видов интеллекта — эмоциональный интеллект. Ведь интеллект — это не только умение считать, но и умение сопереживать. Мы выходим к проблеме зеркальных нейронов. Это системы, которые включаются, когда не вы что-то делаете, а вы за этим наблюдаете. Если я иду на какой-то важный разговор, я должна построить себе схему этого разговора, учитывая конкретного человека, с которым я буду говорить. Условно говоря, я должна выйти из своего мозга и встать на сторону собеседника и посмотреть на себя его глазами. Это есть основа успешного социального взаимодействия. Зеркальные системы попорчены у людей с аутизмом, что объясняет, почему они настолько глухи эмоционально. Эти дети совсем не понимают, что родители устали, что кому-то больно. Они не испытывают сочувствия.

Тогда все содрогнулись. Но программа была натаскана на одного игрока — на самого Каспарова. Она знала про него больше, чем он сам. Она знала каждый его ход с того момента, когда он в первый раз взялся за шахматную фигуру. Она не умеет нервничать и отвлекаться. Сам Каспаров, когда оправился от шока, сказал, что если бы он сделал пару ходов, которых никогда не делают чемпионы мира, то программа бы этого не выдержала, потому что она не готова к тому, что соперник может играть глупо. Но дальше — больше. Люди решили испытать компьютер более сложной игрой — го логическая настольная игра, возникшая в Древнем Китае. Но программа AlphaGo разбила чемпиона мира Ли Седоля в пух и прах. А через несколько лет компьютер обыграл человека даже в покер. В 2017 году компания DeepMind объявила о создании программы AlphaZero. Это универсальный алгоритм, который без предварительной подготовки, без базы данных за 24 часа выучивается играть и в шахматы, и в го так, что его не может обыграть никакая другая программа и никакой человек. За эти 24 часа она играет со своим клоном миллион партий. Дело не в игре, а в том, что искусственный интеллект набирает силу. Пока еще он подчиняется человеку. Но мощность накапливается с такой скоростью, что это может выйти из-под контроля. И это не разговор на кухне. Подобные проблемы обсуждаются на высоком уровне, например, при президиуме РАН существует экспертный совет по методологии искусственного интеллекта.

Герман Греф заменит учителя искусственным интеллектом? Сейчас все очень сильно боятся, что искусственный интеллект придёт и сметет всех учителей. В частности такие зловещие планы приписывают Герману Грефу. Более того, машина может заниматься проверкой тестов, домашних и контрольных работ и формировать подробный отчет о знаниях ученика - где он ошибается? Какую тему надо подтянуть? А кому из учеников нужны задания повышенной сложности? Пускай тесты проверяет железный монстр и экономит учителю тысячи часов в год! Разве нет? Из этого не следует, что учитель больше не нужен. Из этого следует абсолютно другое: учитель должен быть возрожден в своей непосредственной, изначальный роли. Учитель - это не тот, кто натаскивает ученика, как собаку Павлова: если ошибся, то тебя бьет током, а если сделал задание - вот тебе конфета. Учитель должен быть наставником, помощником, а если сильно повезет - доверенным лицом. Тот, кто тащит за собой мешок с пятерками - неинтересен Кто такой хороший ученик? На кого в первую очередь должна обращать внимание школа? По словам Татьяны Черниговской, есть тип учеников, которые способны, как мясорубка, перемолоть любую информацию. Они на отлично сдадут и металлургию, и историю средних веков и теорию музыки… Но перерабатывать огромное количество знаний способен и искусственный интеллект. Сейчас важно другое - глубокое понимание, способность к творческому мышлению. Они не должны хватать того, кто тащит за собой мешок с пятерками. Да, он может знать, в каком году состоялась Грюнвальдская битва или что произошло, допустим, 16 ноября 1243 года в Норвегии. В голове у него может быть большое количество сведений. Но специалисты по физиологии мозга знают, что наиболее эффективно мозг работает не когда он загружен, как чумовой, а когда человек лежит на диване и поплевывает в потолок.

Татьяна Черниговская — Надежда Стрелец

изучающими сознание, об угрозах развития искусственного интеллекта и роли образования в общении людей друг с другом и животными, о тайнах эволюции, языка, мозга, души и жизни Татьяна Черниговская рассказала в эксклюзивном интервью РИА Новости. Подборка лекций и интервью одной из самых ярких представительниц российской когнитивной науки Татьяны Черниговской профессора, доктора филологических и биологических наук, заведующей лабораторией когнитивных исследований СПБГУ и неутомимого популяризатора. Татьяна Черниговская призывает дорожить традициями вуза. дети, образование, воспитание, права, обязанности, принуждение, татьяна черниговская, интервью По мнению профессора Черниговской, «элемент принуждения имеет большой. Гость: Татьяна Черниговская – ученый в области нейронауки и психолингвистики, а также теории сознания.

Татьяна Черниговская: «Bce человечество спятило»

Тренируйте память В наш мозг поступает слишком много информации, которую мы просто не в силах запомнить. Важно тренировать свою память , отказавшись от мышления в стиле постов в Твиттере. Учите стихи, поэмы, осваивайте новые языки. Кстати, полезно учить древние языки, например, греческий или латынь.

Использовать их в повседневной жизни вам не придется, однако ваша память станет гораздо лучше. Старайтесь понимать информацию Многим студентам известно, что зазубрить информацию сложно. Куда проще постараться понять материал, осознать смысл теории или теоремы.

Постарайтесь тренировать свою способность мыслить. Решайте логические задачи, чтобы ваша способность к размышлению не простаивала без дела! Доказано, что люди, которые постоянно тренируют свое мышление , реже страдают нейродегенеративными заболеваниями и до старости сохраняют интеллектуальные способности.

Наш мозг можно укреплять точно так же, как и мускулатуру. Не забывайте о важности развития собственных интеллектуальных способностей. Читайте хорошие книги, учите языки и критически воспринимайте всю поступающую информацию.

Весь эксклюзив в Телеграм!

Онлайн-обучение оказалось неэффективным?

Вовсе нет. Как и в любом деле, эффективность зависит от качества подготовки. Например, на наш новый бесплатный двуязычный онлайн-курс СПбГУ «Нейролингвистика» на образовательной платформе Coursera записались на этот день 39220 человек!

Хорошо, что мы успели его доделать как раз до вынужденных каникул. Поначалу я, конечно, отбивалась всеми четырьмя копытами от идеи делать такой курс, потому что знаю, сколько усилий стоит сделать подобный проект хорошо. Но я довольна результатом.

Впереди «чудесное» — в кавычках — время. Несколько месяцев над ним работала профессиональная университетская команда: звукооператоры, редакторы, режиссер. Благодаря моим научным и дружеским связям, лекции по всем областям нейролингвистики, например, о дислексии, о том, как дети обучаются первому и второму языку, о том, как мозговые механизмы обеспечивают язык, читают не только наши специалисты, но и известные в своих областях профессора из Америки, Норвегии, Финляндии.

И курс получился очень красивым — над ним работала компьютерный дизайнер Ардак Муканова, выпускница факультета искусств СПбГУ, деканом которого является Валерий Гергиев. Там мозги на картинках крутятся, пояснения появляются, зоны выделяются — очень здорово! Есть, конечно, обратная сторона у дистанционных занятий — драйв не тот, что при личном общении.

Особенно у преподавателей такого типа, как я, которые, скажем так, ведут себя живо... Эту живость нельзя передать дистанционно. Я же вижу, что в аудитории происходит: заражаются все!

Это тоже вирус, но полезный: глаза горят, эмоции через край — на расстоянии такое не делается. К пандемии коронавируса нас привела гордыня Как мы вообще попали в этот новый мир? В нашем мире стало доминировать право сильного, право двора: у кого кулак побольше, тот и выиграл.

Стоило развиваться великой человеческой цивилизации, создавшей немыслимые шедевры, чтобы в итоге дело кончилось тем, что «я хозяин, потому что я сейчас тебе дам в лоб! Это касается как отношений между людьми, так и отношений между странами. Должны быть правила.

Юрий Михайлович Лотман писал: «Культура — это система запретов». От простых «не сморкайся за обедом» и «не толкайся локтями» до сложных этических принципов. И эти этические принципы оказались разрушены.

Кулак против культуры. Если ценность старого мира в том, что важнее тот, у кого губная помада дороже, тогда поделом ему и досталось. А на что нам ориентироваться?

Философы, например, ссылались на золотой век. Он вообще когда-нибудь был? Примет этого полно — многие из них у меня на полках стоят: великая литература, великая философия, великая музыка, великое кино, великая живопись.

Я отношусь к этому серьезно. Только не нужно прочитывать это буквальным образом. Мы же совсем про другое. Русские умудрились придумать вот такую невероятную вещь. Это есть и в других языках. По-моему, в словацком. Даже не знаю можно ли это называть языком, скорее, культура. Там вообще иерархия. Когда они матерятся, начинают, чуть ли не богохульствуя, как бы с самого верха, а потом медленно спускаются вниз и уже прикладывают того, кому это было адресовано.

Мат — это очень серьезный язык, виртуозно построенный код Николай Усков: Но все-таки, почему именно в русской культуре мат занял положение контркультуры, тогда как в других табуированные слова осваиваются цивилизацией через какое-то время и уже не несут такого ругательного оттенка. Татьяна Черниговская: Есть какие-то культурные запреты. На самом деле не думаю, что я тот человек, который должен отвечать на этот вопрос. И его нужно было бы задать известному филологу Борису Андреевичу Успенскому. Или Юрий Михайлович Лотман, вполне бы смог ответить на вопрос, хотя сам он не пользовался этим языком. Это совсем не шуточки. Понимаете, когда на улице стоят мужики, пьют пиво и в качестве междометий через каждое слово вставляют бранные слова, это ведь совсем другое. Мы же не говорим про языковой мусор. Мы говорим про какой-то необыкновенный ход создания такого параллельного языка.

И это интересно. Про продолжительности жизни Николай Усков: Другая тема, которая, наверное, сейчас очень многих интересует, это скачкообразный рост продолжительности жизни. Всем известно, что наша цивилизация находится накануне крупнейшей биотехнологической и медицинской революции. Многие ученые говорят, что скоро 140 лет будет реальным сроком жизни для ближайших поколений. Как изменится наша жизнь, и чем мы будем занимать наш мозг так долго? Татьяна Черниговская: Да, такое действительно может быть. Но вопрос в том, в качестве кого жить? Если в качестве баклажана лет 50, то я не думаю, что кому-нибудь такая перспектива покажется симпатичной. В каком состоянии сохраниться, чтобы это была полноценная жизнь, чтобы голова работала, чтобы это был не Альцгеймер.

Медицинские шуточки на тему « не каждый доживает до своего Альцгеймера», расшифровываем так, что он стопроцентно будет, но может повезти и отправишься к праотцам до того, как это наступит. Тут и встает вопрос о том, в качестве чего ты будешь жить. Будет ли это полноценная жизнь или это будут такие консервы, которые просто лежат и всё. Это никому не нужно. Предположим, что повезло, и мы как-то побороли это дело, но ведь, кроме Альцгеймера есть и другие игроки на этом поле. Например, болезнь Паркинсона, сердечно-сосудистые заболевания, рак. Но на первое место выходят психические болезни. Недавно, я была на таком достаточно серьезном заседании, и там говорилось, что американцы хотят объявить эпидемию психических заболеваний. Не в смысле что сейчас она есть, а потом её не будет, но пошел шквал.

Депрессии, шизофрения начинают выходить на первое место. Вспомните фильмы Бергмана — там же сумасшедшие абсолютно все участники Николай Усков: Ну, а у меня может быть такое дилетантское объяснение. Рост депрессий, кризисов среднего возраста и других всевозможных плохих состояний я связываю с тем, что у людей стало больше свободно времени именно на то, чтобы подумать обо всем. Татьяна Черниговская: Да, это правильно… Николай Усков: Потому что наш предок, совсем недавний, был просто занят борьбой за выживание. Голод в Европе закончился в начале 19 века, а в России он и после этого свирепствовал вплоть до второй половины 20 века и это была серьезная продовольственная проблема. По мере того, как у нас появляется свободное время, у нас появляются вопросы. И будущее с жизненными ожиданиями в 140 лет не сулит ничего хорошего, потому что значительная часть наших занятий будет передана искусственному интеллекту, например, та же профессия водителя скоро просто умрет в ближайшее время, программиста тоже. В общем, это вопросы такого ближайшего будущего. Согласны ли вы, что это связано со свободным временем?

Татьяна Черниговская: Да, я согласна, но у меня есть несколько комментариев на этот счёт. Во-первых, я не врач, но в психиатрии довольно много работала и продолжаю сотрудничать с психиатрами, поэтому я ориентируюсь, хотя, разумеется, никого не лечу. Психические болезни неравномерно распределены по планете. Люди, живущие в разных географических ареалах, болеют не в равной мере. Чем севернее, тем более опасно для населения ввалиться в такие состояния. Это имеет и генетическую основу и биохимическую. То есть у них просто соотношение серотонина и дофамина не такое как у тех, кто живет, условно говоря, на юге Италии. Здесь все равно встает неразрешимый вопрос. У них потому так дела плохо обстоят, что сильно темно, как и в нашем городе и солнца они мало получают?

Или уже за все эти столетия, тысячелетия, накопился. Геном такой, так у него дела с этим серотонином обстоят. Можем, например, обратиться к киноискусству скандинавскому. Вспомните фильмы Бергмана, и что там творится. Там же сумасшедшие абсолютно все участники, что не отнимает высочайшего класса происходящего. Такого рода картины не могут появится в Италии или Испании. Про праздность. Об этом сейчас пишут, даже есть термин такой, что наступает «цивилизация праздности». Чем займемся?

Машины водят, самолеты водят и все за счет искусственного интеллекта, заводы работают сами по себе. Чем занимается население земли? Полагается на это отвечать, что одни играют на лютне, другие пишут сонеты… Николай Усков: Особенно, дальнобойщики. Татьяна Черниговская: Да, дальнобойщики, домохозяйки, все они пишут сонеты и играют на лютне. Но мы же понимаем, что на самом деле все это абсолютно не так. Будут происходить противоположные вещи. Все глухо запьют, остальные начнут неумеренно курить и насаживать друг друга на вилы. Людям будут платить деньги для того, чтобы они не померли с голоду. И конечно это серьезная большая проблема, в которой ни о каких сонетах и речи нет.

Она осознается людьми, которые на эту тему профессионально думают. Про киборгов и сохранение личности Николай Усков: А вот с точки зрения выживания, как нам не сойти с ума с этим огромным временем, с этой совершенно новой жизнью? Татьяна Черниговская: Знаете, когда я дома смотрю на книжки, которые покрывают собой всё жизненное пространство, даже как-то на них злюсь. Потому что вот я уже давно загнусь, а они всё еще будут здесь стоять, а я их никогда не прочту. Просто потому что у меня уже никогда не будет времени. Во-первых, можно всё-таки большее количество книжек прочесть, большее количество музыки услышать, картин увидеть или хотя бы их репродукций, если по каким-то причинам путешествовать не получается. Я не вижу проблемы такой. Сколько вин не выпито… Но мы не можем строить правильные прогнозы. Во-первых, потому что всё человечество спятило.

Я вижу это и очень отчетливо. Нужен серьёзный психиатр для целой планеты. Потому что ты им говоришь, что вот это бокал, а они тебе — «Нет, это туманность Андромеды».

Это про другое. Это не значит, что я отрицаю наличие души. Но наука не занимается такими вещами", - сказала Черниговская. Она уверена в реальности воздействия на человека через слово, например путем заговора или проклятия, но естественные науки этого сейчас не объяснят. Так же, как и душу вы не сможете зафиксировать. Это не значит, что этого нет.

Просто это не область естественных наук", - добавила собеседница агентства. Профессор призвала пересмотреть приоритеты в обучении детей Учить детей с раннего возраста нравственности и гуманному обращению с животными, которые чувствуют боль и у которых может быть сознание, важнее, чем падежам, и сегодня встают серьезные вопросы, когда взрослые гусей откармливают на фуа-гра, а живых раков бросают в кипяток, рассказала профессор Татьяна Черниговская. Он многие десятилетия изучает достижения современной науки, развивает сотрудничество с ее выдающимися представителями и уделяет особое внимание роли образования в установлении мира и гармонии на Земле. И не множить страдания без необходимости. Причем такого рода вещам нужно учить детей с раннего возраста. Ребенок должен знать, что если он отрывает крыло у бабочки, ей больно, и этого делать нельзя", - сказала Черниговская. По ее словам, "взрослые появляются из детей" - и воспитывать их нужно так, чтобы у ребенка даже мысли не было о том, что можно иначе себя вести, чем нравственным образом. Выпил сок — выброси в урну упаковку. Не вздумай мучить кошку: давай я тебе самому на ногу наступлю — посмотришь, каково это кошке.

Маленькие дети сами этого знать не могут, им надо все объяснять, причем понятным для каждого возраста образом", - пояснила собеседница агентства. Соответствующие образовательные программы, считает Черниговская, должны разрабатывать педагоги и другие профессионалы. Падежи - это в сто раз менее важно, чем то, о чем мы сейчас говорим", - уверена нейропсихолог. Она отметила, что "сегодня встают очень серьезные вопросы в области обращения с животными, когда гусей и уток специально откармливают на фуа-гра, а живых раков бросают в кипяток". Этические комиссии, сообщила Черниговская, следят за тем, чтобы не проводилось медицинских, научных опытов над животными без наркоза, но она сомневается, что анестезию будут давать, например, червям. Нагляделся - а потом идешь в ресторан и заказываешь: "Мне, пожалуйста, well done стейк! Значит, так: либо ресницы, либо well done", - сказала Черниговская. По ее словам, если говорить честно, то "надо прекращать есть не только говядину, баранину, козлятину и курятину, но и все остальное". А некоторые исследователи, как мы видели, ищут их и у растений.

И что мы будем делать? Чем питаться? В ответ на вопрос, не пора ли человеку в корне менять отношение к потреблению окружающего мира, собеседница агентства не исключила, что "проблема сама исчезнет". Искусственный интеллект найдет для себя источники энергии", - предположила собеседница агентства. Умному человеку пришло в голову посмотреть, какие особенности у этой семьи в геноме — и таким образом нашли поломку в знаменитом гене FOXP2", - сказала Черниговская в интервью РИА Новости. По ее словам, тогда было объявлено, что найден "ген языка", или даже "ген грамматики". Потому что Homo sapiens - это Homo loquens… Только праздник скоро кончился: этот ген нашли у мышей, у шиншилл, у крокодилов, которые как-то не замечены в пользовании грамматикой", - отметила Черниговская.

Проверено экспертами

  • «Прогноз мой плохой. Запахло Дарвином». Профессор Черниговская о шрамах COVID-19
  • 2023.01.23 - Эксперименты над Ведьмами - Татьяна Черниговская
  • 2. Педагога, который передает информацию, больше не существует
  • «Нам нужен парадигмальный прорыв, который позволит смотреть на мозг иначе» – Татьяна Черниговская

Проверено экспертами

  • Татьяна Черниговская: Советы для тех, кто хочет развиваться
  • Сообщество
  • Читайте также
  • 1. Экология вашего мозга
  • Татьяна Черниговская: «Коронавирус, эта мелкая тварь, поставил на паузу весь мир!»

«Будущее человечества» | Интервью с Татьяной Черниговской

Лучшее, что мы можем сейчас сделать, — это знать как можно больше. А кроме того, не утратить человечность. Если будем соревноваться с этими цифровыми монстрами, то мы себя потеряем. Зачем нам с ними соревноваться? Это не та дорога. Мы не должны потерять человеческое.

Мы особые существа на этой планете, мы творим миры — наша цивилизация об этом, — пояснила Татьяна Черниговская. После лекции ребята обсудили с Татьяной Черниговской вопросы нейропсихологии, самореализации, а студент из Абхазии поблагодарил спикера за такое полное раскрытие темы об искусственном интеллекте. Молодой человек сравнил ИИ с троянским конем, которого нужно обуздать. Научно-популярная лекция состоялась в третий день просветительского марафона Знание.

Теперь будет совершенно другой тип образования. Абсолютно другая роль учителя. Но это — условно «эстетский взгляд». Взгляд меньшинства. А большинство, оно недооценивает. Не будет привычного снова. Старшее поколение стоит на месте, пока остальные идут вперёд? Но вот у меня есть несколько коллег, которым за 80. И они в цифровом мире живут хоть бы хны. И они не компьютерщики и математики. Нужно тоньше анализировать. Очень много зависит от того, что человек делает. Если просто пенсионер, который сидит дома, то всё, что ему надо освоить, это как покупать продукты онлайн. Условно говоря. В какой социум ему встраиваться? Ему некуда встраиваться. Хуже дела у тех, кто чуть моложе. Те, кому до 60. Те, кто ещё в тираж не вышел, но жизнь изменилась. И очень много преподавателей, учителей в этом сезоне просто уволились. Я буквально на днях это обсуждала с коллегами на большом педагогическом форуме, который, опять же, прошёл онлайн. Они не понимают, как работать дистанционно, как жить в новой среде. Люди в депрессии, потому что функция изменилась, а человек не готов. Я констатирую факт. Если оценивать этот факт, то я смотрю на это, как на факт природы. Куда деваться? Если так вышло, значит, надо искать какой-то другой вид деятельности. Но я очень сочувствую этим людям… — Это временный минус с точки зрения качества образования? Нет, не временный. Потому что те, кто оставляют профессию из-за неспособности вписаться так глубоко в цифровую реальность, это часто люди-бриллианты. Такой класс профессионализма, который дальше уже недостижим. Люди с огромным практическим и научным опытом. Планка падает. Но за исключением абсолютных исключений. Есть люди, вне зависимости от возраста и специальности, которые осваивают другие области знаний. Но есть условный специалист по древним рукописям, или читает по-шумерски, а таких, как он, во всём мире 4 человека, или 3, и скоро может стать 2. Вот он сидит вне компьютеров со своей клинописью, и он бесценен! Нет цены. И если у таких людей исчезают ученики, то это совсем плохо… Бриллианты ведь не коробками меряются. Надо сохранять таких людей. Если мы не сохраним учеников для таких профессионалов, то можем оказаться в ситуации, о которой мне много лет назад в Тарту сказал мой друг — американский профессор. А именно — мы столкнёмся с тем, что мы уже умели читать египетские папирусы, теперь всё расшифровано, но больше нет тех, кто знает, как читать. Не может статистика применяться к личностям уровня Дюрера, Эйнштейна, Нильса Бора и так далее. Поэтому если мы теряем их из-за их неспособности правильно оформить табличку, то придурки мы! Двигаемся к этому? Запахло Дарвином. Совсем уж естественный отбор пошёл… Причём и социально, и идеологически. Конечно, можно продолжать играть в этот идиотизм политкорректный. Но геном от генома отличается. Извините за пошлость, ведь это известно со школы каждому. Утром расшумелась сама с собой. Как быть, например, с ДНК дальше? Там же белок! Почему белок, а не чернок? Уже и ход белыми в шахматах проблема, говорят американисты. Белые грибы? Великое поле для шуток. Если мы не хотим заниматься самоедством, то надо понимать, что мы сами себя в итоге сожрём в том идиотизме, в котором мы сегодня крутимся. Посмотрите на мир. Всё происходит одновременно. Я бы сказала, что планета показывает нам, кто на самом деле хозяин в доме. Человек захлебывается. Часть мира горит так, что непонятно, куда бежать. Часть мира трясёт от землетрясений и цунами. Мелкие реки становятся крупными. Полностью все спятили с политкорректностью! И так далее. Плюс ко всему биология. С которой не может справиться вся наука Земли. Такие все крутые, венцы природы. И что? Природа отвечает. И показывает наше место. У людей вообще будут человеческие качества, если они будут всё время сидеть в Сети? При встрече с другим человеком они могут элементарно испугаться. Не будут знать, что это такое. Дети ещё планируются, будут завтра рождаться? А флирт ещё планируется? Не в Сети.

Гены — это только начало, гены — это потенция. Конечно, если уж совсем не повезло и гены плохие — ну, ужасно жалко. Но если они очень хорошие, этого недостаточно. Пример, который я студентам своим привожу, таков. Вам от бабушки с дедушкой может достаться рояль «Стейнвей» или скрипка Страдивари. К сожалению, надо учиться играть. Как на «Стейнвее», так и на Страдивари, а это воспитание и образование уже в буквальном, а не метафорическом смысле, нужно научиться жить с этими генами. Нужно те потенции, которые Создатель вам через эти гены дал, использовать — дать возможность им развиться, и для этого нужны усилия. Они не сами развиваются. Если бы Моцарт оказался не там, где он оказался, а в какой-то совершенно другой среде, мы не имели бы Моцарта. Никто бы, включая его самого, не узнал о том, что он абсолютный солнечный гений. Поэтому нужно познакомиться с этими детьми, которых вы родили, посмотреть на них: что будем делать с этим, а с этим, что этому нужно, или обязательно через коленку всех? Вот того, который застенчивый, его куда: на джиу-джитсу отправить, что с ним надо делать? А какая цель, вы что — хотите его сломать? Может быть и другой вопрос: нет, я не хочу его сломать, но хочу его сделать жизнеспособным. Поэтому некоторая доля насилия присутствует в любом образовательном процессе, как всем понятно. Насколько я помню, даже таких абсолютных музыкантов, как Бах и Бетховен, по пальцам колотили, чтобы они все-таки играли, уже таких. Но на самом деле история-то сложная, потому что как вы должны узнать: он Бетховен, или он просто средне способный человек? А вам для удовлетворения собственного тщеславия хочется научить его на клавесине играть. То есть это не простые истории, они на два не делятся, это не то, что способный и неспособный, или там быстрый и медленный — это не так сочетается.

Татьяна Черниговская: Да, это правильно… Николай Усков: Потому что наш предок, совсем недавний, был просто занят борьбой за выживание. Голод в Европе закончился в начале 19 века, а в России он и после этого свирепствовал вплоть до второй половины 20 века и это была серьезная продовольственная проблема. По мере того, как у нас появляется свободное время, у нас появляются вопросы. И будущее с жизненными ожиданиями в 140 лет не сулит ничего хорошего, потому что значительная часть наших занятий будет передана искусственному интеллекту, например, та же профессия водителя скоро просто умрет в ближайшее время, программиста тоже. В общем, это вопросы такого ближайшего будущего. Согласны ли вы, что это связано со свободным временем? Татьяна Черниговская: Да, я согласна, но у меня есть несколько комментариев на этот счёт. Во-первых, я не врач, но в психиатрии довольно много работала и продолжаю сотрудничать с психиатрами, поэтому я ориентируюсь, хотя, разумеется, никого не лечу. Психические болезни неравномерно распределены по планете. Люди, живущие в разных географических ареалах, болеют не в равной мере. Чем севернее, тем более опасно для населения ввалиться в такие состояния. Это имеет и генетическую основу и биохимическую. То есть у них просто соотношение серотонина и дофамина не такое как у тех, кто живет, условно говоря, на юге Италии. Здесь все равно встает неразрешимый вопрос. У них потому так дела плохо обстоят, что сильно темно, как и в нашем городе и солнца они мало получают? Или уже за все эти столетия, тысячелетия, накопился. Геном такой, так у него дела с этим серотонином обстоят. Можем, например, обратиться к киноискусству скандинавскому. Вспомните фильмы Бергмана, и что там творится. Там же сумасшедшие абсолютно все участники, что не отнимает высочайшего класса происходящего. Такого рода картины не могут появится в Италии или Испании. Про праздность. Об этом сейчас пишут, даже есть термин такой, что наступает «цивилизация праздности». Чем займемся? Машины водят, самолеты водят и все за счет искусственного интеллекта, заводы работают сами по себе. Чем занимается население земли? Полагается на это отвечать, что одни играют на лютне, другие пишут сонеты… Николай Усков: Особенно, дальнобойщики. Татьяна Черниговская: Да, дальнобойщики, домохозяйки, все они пишут сонеты и играют на лютне. Но мы же понимаем, что на самом деле все это абсолютно не так. Будут происходить противоположные вещи. Все глухо запьют, остальные начнут неумеренно курить и насаживать друг друга на вилы. Людям будут платить деньги для того, чтобы они не померли с голоду. И конечно это серьезная большая проблема, в которой ни о каких сонетах и речи нет. Она осознается людьми, которые на эту тему профессионально думают. Про киборгов и сохранение личности Николай Усков: А вот с точки зрения выживания, как нам не сойти с ума с этим огромным временем, с этой совершенно новой жизнью? Татьяна Черниговская: Знаете, когда я дома смотрю на книжки, которые покрывают собой всё жизненное пространство, даже как-то на них злюсь. Потому что вот я уже давно загнусь, а они всё еще будут здесь стоять, а я их никогда не прочту. Просто потому что у меня уже никогда не будет времени. Во-первых, можно всё-таки большее количество книжек прочесть, большее количество музыки услышать, картин увидеть или хотя бы их репродукций, если по каким-то причинам путешествовать не получается. Я не вижу проблемы такой. Сколько вин не выпито… Но мы не можем строить правильные прогнозы. Во-первых, потому что всё человечество спятило. Я вижу это и очень отчетливо. Нужен серьёзный психиатр для целой планеты. Потому что ты им говоришь, что вот это бокал, а они тебе — «Нет, это туманность Андромеды». То есть мы все видим разные вещи. Совершенная неадекватность поведения — нами делаются неправильные выводы. Во-вторых, не стоит думать, что ничего не произойдет и не появится какой-нибудь вирус, который вообще всех уложит. И усилия тех, кто устраивает нам 140 лет потенциальной жизни, будут впустую, потому что может завестись какая-нибудь маленькая штучка, которая рубанет всё человечество. Я бы так оптимистически не смотрела. Кроме того, есть ещё одна линия, довольно серьезная, вызывающая во мне юмористические чувства и даже раздражение. Существует несколько движений, которые планируют записать все, что у нас накопилось в нейронной сети и перенести это на силиконовые носители, таким образом обеспечить нам бессмертие. То есть приходит внучок, берет флэшку, на ней дедушкина жизнь. Он её включает и живет себе. Мы можем попасть в мир, в котором нам нет места Николай Усков: Я бы вот не хотел так делиться своей жизнью с внучком… Татьяна Черниговская: Все в порядке, никому это не угрожает, потому что туда надо записать всё, включая тело. Вкус губной помады, как пятка чешется, как чихнуть, когда захочется, то есть вообще всё! В какой момент записывать будем? За секунду перед смертью? Так тогда уже и мозг попорчен. То есть это всё мура, люди просто откачивают деньги. Что возможно, и это уже очень близко — то, о чем писал Маклюэн. Он говорил, что следующий биологический вид это «хомосапиенс автокриэйтор». То есть человек самосозданный. Это на тему киборгов. И это вовсе не голливудская дешевка, это всерьез. Вставить в голову чипы, которые сделают протекание биохимических процессов в мозгу быстрее возможно, вставить в голову чип который увеличит вашу память и сделает мозг лучше, это возможно уже сейчас и может произойти в ближайшие годы. Итого: печень, поеденная циррозом от неумеренного употребления разных типов вин, может быть заменена на новую, которая будет выращена из ваших стволовых клеток. Это реально, не шутки и не метафоры. Сердце заменить тоже уже сейчас возможно, руки-ноги поломанные в Куршавеле, запросто заменятся. Глаза, уши. А есть ли что-нибудь свое? Это всё еще я? Это серьезный эсхатологический вопрос. Существо, которое было Машей Ивановым. Кстати, интересная оговорка. Я сказала это случайно, но… Понимаете, все меняется. Мы стоим перед перспективой мира, в котором вообще всё другое. Есть ли стабильность личности, есть ли стабильность пола и есть ли эта личность вообще? Вот я терпеть не могу социальные сети, хотя в них фигурирую, но это делает кто-то другой там, а не я. И вот уже как я могу доказать, что это не я. Человек, с которым вы переписываетесь, действительно ли он реальный человек или это фантом и один ли он? Или это программа, которая представляет собой миллион личностей, и человека нет вообще? Где он находится? Есть ли у него место, время, есть ли у него адрес, личность у него есть?

Татьяна Черниговская: «Bce человечество спятило»

Татьяна Черниговская отметила, что причины дислексии до сих пор остаются загадкой для врачей и ученых. Об этом ученая сообщила в интервью РИА Новости. По мнению Черниговской, нейросети «кормят» языком и, получается, что язык может уже сам тащить эволюцию, выступая в качестве отдельного игрока. В рамках Большого биологического лектория — дискуссионной площадки Московского института психоанализа — нейролингвист Татьяна Черниговская рассказала о том, как сейчас изучается мозг и как меняется подход к науке в целом.

Татьяна Черниговская о детях и образовании

Сейчас никто не будет говорить о местах в мозгу, которые отвечают за разное. Человек, который имеет хоть какие-то знания, разумеется, так не считает. Идея локализоционизма сменилась идеей, очень грубо, коннекционизма — о том, что все — огромная сеть, занимающаяся всем, нет никакой локализации, в том числе памяти. Моя главная претензия к мозгу в том, что он населен бомжами. Все живут везде, нет ни у кого домов, к тому же он заселен клонами. Мозг противоречив, выбрать невозможно, контраргументы есть всегда. Есть разные научные школы, во всех науках. Почему никто не победил? У всех есть доказательства, силы часто равны, просто стороны занимают разные позиции. Начинается вопрос трактовки.

Одни и те же данные можно трактовать по-разному, отсюда встает вопрос: объективность какая-то вообще есть? У нас гигантское количество сведений о мозге, каждый день они пополняются, но что-то не видно прорыва. Ситуация зашла так далеко, что научных работ на эту тему столько, что их нельзя не только обдумать, перечитать, а даже перелистать, счет идет на миллионы. Получается, данные что есть, что их нет — их невозможно обозреть. Вывод один: нам нужно перестать гоняться за фактами и создавать теорию. Это должен быть парадигмальный прорыв, теоретическое открытие, которое позволит нам смотреть на мозг иначе. По сложности это задача, выходящая за что-либо мыслимое, это теория мозга.

У ребенка, у подростка даже мысли не должно появляться, что можно иначе себя вести, чем нравственным образом, что можно мучить кошку, толкаться, устраивать истерики и так далее. Этичное поведение должно быть на автомате — как когда вы идете и делаете следующий шаг, или как когда вы утром, едва проснувшись, чистите зубы.

Для этого детей надо учить. А мы, получается, уже пропустили несколько поколений. У них родители уже такие выросли в перестройку — не обращающие особого внимания на этику и воспитание , и даже бабушки. А нормальная бабушка, например, должна сидеть дома с внуками, вязать носки, печь блины и учить жизни — быть душевной. Мечты… Душа и "джокер" — В буддизме нет Бога-Творца и души как таковой, есть тончайшее сознание, переходящее из одного телесного воплощения в другое перерождение. А приближается ли современная наука к определению, что такое душа, как вы считаете? Я сейчас говорю про себя, не про всю науку. Я считаю, душа — это не та категория, которой наука должна заниматься. Это про другое.

Это не значит, что я отрицаю наличие души. Но наука не занимается такими вещами. Или все это сказки? Объяснить, почему, научно не могу. Тогда нужен эксперимент в научном смысле: чтобы когда кого-то заговаривают, все это воздействие фиксировалось… Но зафиксировать вы этого сейчас не сможете. Также, как и душу вы не сможете зафиксировать. Это не значит, что этого нет. Просто это не область естественных наук. Ведь современная наука как-то касается этих вопросов?

Но тут опять обломы начинаются. Потому что определение, что такое интуиция, как бы отрицательное, то есть: все, что не рациональное, все, что не прошло через алгоритм. Это как джокер — когда нечем назвать. Искусственный интеллект, машины в функции алгоритмизации, вычисления нас переиграли. Но зато мы живые существа, у которых есть интуиция, а ее невозможно просчитать, мы — неизвестно, как... Это все из мягких наук. Что можно просчитать в стихах Бродского или гениальной музыке — не то, что делает их гениальными. И как эти стихи и эта музыка попали в голову человека? Ответ: например, интуиция или озарение...

Но что это? Однако, уже сейчас говорят о том, что искусственный интеллект сам придумал что-то вроде искусственной интуиции — машины начинают нас обыгрывать на нашем поле? Программы загоняют человека в шахматный цугцванг. Ведь интуиция — наша гордость… Это уж точно мы, люди. Но некоторые разработчики искусственного интеллекта считают иначе. Они скажут: подождите, нейросеть проанализирует всю мировую поэзию, она будет думать-думать, и напишет вам очень приличное стихотворение. Оно, возможно, не будет гениальным, но вполне вероятно, что оно будет из средних стихов от гениев. Все эти вопросы вертятся вокруг вещей, точных определений которым нет… Зачем мы живем — Но эти вещи без точных определений, наверное, самое интересное, ведь главный вопрос всех времен и народов: в чем суть жизни, и зачем мы живем? Не в подсчетах и не для подсчетов, хочется верить… — Ну, и зачем, теперь я вас спрошу.

Например, из чувства долга и любви — для родных и близких, любящих и любимых. Религиозные ответы: в христианстве — ради спасения души для вечной жизни или в буддизме — ради просветления всех живых существ, избавления от страданий, достижения счастья… — Я не сильна в буддизме. Но можно сформулировать так: родился для того, чтобы с собой познакомиться и воспитать свой внутренний мир, максимально тонко, вынуть максимально много хорошего. Каждый человек — это целый мир, бесценный. Мы — существа, создающие миры. Познавать это единство в служении Богу и окружающим, преодолевая конечность индивидуума, не только в потомстве, но и в творчестве, науке, дружбе и других важных аспектах жизни, что вы об этом скажете? Есть мягкие науки, как, например, филология или, в частности, буддология, которые опираются на тексты. А естественные науки занимаются другими вещами, там совершенно иной тип доказательств. Поэтому в ответ на вопрос, занимается ли современная наука озвученными вами темами, давайте уточним, какая наука.

Философия — занимается, это наука, и она занимается вопросами о смысле жизни. Я работала в психиатрической больнице и очень многого нагляделась. Меня поражало, что практически каждый из вновь поступивших пациентов говорил одно и то же: у меня болит душа, это непереносимо, невозможно терпеть, сделайте, что угодно, чтобы это прекратилось. У него не болит ни рука, ни нога, ни сердце, ни голова — болит душа, и это невозможно больше терпеть… — Так вот когда человек говорит "болит душа", то что-то исследуется в этой области: нервная система, устройство психики, эмоциональная сфера? Теорий эволюций не одна, не только Дарвин. Этим занимается теоретическая биология, и много кто. Я, кстати, двадцать с лишним лет работала в Институте эволюционной физиологии и биохимии имени И. Сеченова РАН. Вопрос этот не для беседы у камина: верю в эволюцию или не верю, или Господь создал все и всех за семь дней.

А один день у Господа — это сколько времени? Это серьезный научный разговор. Биохимик, генетик должен выйти на сцену, когда речь об эволюции. Были там такие-то аминокислоты, а таких-то не было, потом что там стало с аминокислотами? Это отнюдь не о том, с чего бы вдруг у рыбки выросли ноги и она пошла ходить по планете, или каким образом рыбка превратилась в птичку. Умному человеку пришло в голову посмотреть, какие особенности у этой семьи в геноме — и таким образом нашли поломку в знаменитом гене FOXP2. И было объявлено, что "ген языка" найден. А некоторые писали еще конкретнее: найден "ген грамматики". Открытие вообще мировое, если бы действительно нашли то, что все время ищут, а именно человеческий ген, которого ни у кого больше нет, который принадлежит нам как биологическому виду и отличает нас от всех других.

Потому что Homo sapiens — это Homo loquens, а тут вдруг ген такой: пожалуйста, получите, все радовались страшно, большой шум был. Только праздник скоро кончился: этот ген нашли у мышей, у шиншилл, у крокодилов, которые как-то не замечены в пользовании грамматикой. Впоследствии оказалось, что есть две версии гена FOXP2. Одна — которая у зверей, а другая — человеческая, "human version". И она отличается на две аминокислоты.

Потому что если мы декларируем, что "я сам себе король и как хочу, так все и делаю" — да, но ведь и все остальные тоже такие же короли, кругом одни короли. У нас есть шанс выжить в этой ситуации? В чем причина? Виноваты технологии? Не знаю. Я, если честно, даже думала но это дешево стоит, мое думанье , может быть, действительно, какая-то мутация злостная пошла, что люди все просто спятили. Вы правда считаете, что это мутация? Для того, чтобы это утверждать, я должна — как ученый — иметь доказательства. Разумеется, таких доказательств у меня нет. Если бы здесь сидели мои друзья генетики — могу назвать список, кто были бы эти люди. Это были бы очень сильные генетики: и зарубежные, и наши. Они бы сказали: "Подожди, что ты плетешь вообще? Ты доктор биологических наук, среди прочего. Ты должна бы знать, что мутации происходят все время, у каждого человека их несметные тысячи. Ты о чем говоришь? Я имею в виду, что что-то щелкнуло — может, мы стали куда-то развиваться в другую сторону, в самоубийственную? А может быть, все-таки на нас как-то влияют новые технологии, которые сейчас наводняют нашу повседневность? Вот смотрите, в Японии это уже норма — не встречаться с девушками, а просто с роботами общаться. И чем дальше — тем больше. Будут сексуальные куклы для мужчин и для женщин… Они уже есть. Да, мы идем в эту сторону. Это обсуждается на разных серьезных научных конференциях, на всяких форумах: а что дальше-то будет? И каков ваш ответ? Мы должны сами для себя решить: у нас какие планы? Нам есть место на Земле? Если да, то какую роль мы планируем играть? Если мы собираемся конкурировать с компьютерами, кто мощнее, кто быстрее посчитает, то эту игру мы проиграли уже несколько лет назад. Или же мы делаем ставку на человеческое, на то, что компьютеру недоступно, но тогда мы должны и поведение другое выработать. Ну а если мы согласны на конец нашей человеческой истории, тогда остаются одни роботы и никакой любви с людьми. Я говорила с одним профессором из Корнелльского университета, он изобретает самосовершенствующихся роботов. В частности, спросила его, могут ли роботы любить. Он говорит: они могут самосовершенствоваться только в рамках тех программ, которые мы в них закладываем. А так как мы сами не знаем, точней, человечество не знает, что такое любовь, то мы и не можем их научить любить. И я подумала, что на самом деле наше спасение в том, что мы не знаем, что такое любовь. Потому что если бы мы знали и их научили, то вообще была бы катастрофа. Да, я согласна с этим, но я к этому списку добавлю еще кое-что. Оно будет сначала научно звучать, а потом ненаучно. Есть такое понятие, очень широко сейчас обсуждаемое в мировой философии, которое носит название first person experience. Можно перевести его как ощущение или восприятие от первого лица. Это качество присуще людям, а возможно, не только людям, обладающим сознанием. Оно не измеряется никакими приборами, ни децибелами, ни спектрами, ни сантиметрами, ни наночастицами. Не помню, кто это сказал вспомнила! Витгенштейн , что любой текст — здесь под текстом имеются в виду не обязательно буквы, а все что угодно — это ковер, сложно сплетенный ковер, из которого каждый вытягивает свою нить. Например, мы с вами сидим пьем вино грузинское, и вы говорите: "Сладковато", а я говорю: "Кисловато". Нет и никогда не будет прибора, который покажет, почему вам это вино нравится, а мне — нет. Или вы говорите: "Терпеть не могу этого писателя". А я говорю: "Чудесный писатель". Вот что мы с этим будем делать? Понимаете, для меня аргументы специалистов, которые скажут: "Это хорошее, а это плохое", ничего не стоят. Мне важно, как я сама воспринимаю эту еду, эту прозу, эту ткань… Вы сейчас напрямую подводите к слову "чувство". Человеческие чувства — робот их никогда не испытает. А чего нам друг в друге не хватает, почему нам нужен какой-то идеальный робот? Отчасти это от лени. Я про лень ничего плохого сказать не могу, она вообще-то двигатель прогресса, и не будь ее, мы бы до сих пор коромыслом носили воду с речки. Но с другой стороны, нам хочется, чтобы кто-то делал вместо нас ту работу, которую мы делать не хотим. Пусть искусственные системы выполняют простые дела: квартиру убирают, руду добывают. Но они же развиваются. Вы же сказали — саморазвивающиеся роботы — вот оно! Они будут делать друг друга, они будут улучшаться, самосовершенствоваться, и в какой-то момент станут самодостаточны. И если — не дай бог! Просто страшно это слышать, особенно от вас… Вот вы говорите: главный мотиватор всего того, что сейчас происходит, это человеческая лень. А может, дело еще в том, что люди устали от чувств? Им не хочется испытывать боль, не хочется плакать по ночам. Да, согласна. Я, конечно, алармистка, я все время всех пугаю, но посмотрите на молодое поколение, так называемое google generation. Приходишь в какое-нибудь кафе, они сидят за столом и вместо того, чтобы говорить друг с другом я это постоянно наблюдаю , каждый разговаривает, возможно, даже с тем, кто сидит напротив, — через свой айфон! Люди вообще перестали общаться в реальном мире, а целиком скатились в этот виртуальный мир. А там все прекрасно. Ты настраиваешь программу по своему вкусу. Тебе надоело — ты ее выключаешь. Зачем тебе эти хлопоты? Тебе никто не противостоит, у тебя нет врагов, если враг есть — так ты его и укокошишь.

Заслуженный деятель высшего образования и заслуженный деятель науки РФ. Александр Каплан — нейрофизиолог и психофизиолог, один из самых известных экспертов в области нейроинтерфейсных технологий. Доктор биологических наук, профессор биофака МГУ имени М. Ломоносова, заведующий лабораторией нейрофизиологии и нейрокомпьютерных интерфейсов, лауреат премии Правительства Российской Федерации в области науки и техники.

Татьяна Черниговская — Надежда Стрелец

Российский ученый в области нейронауки и психолингвистики Татьяна Черниговская дала «Большое интервью» телеканалу «МИР 24», в котором рассказала о механизме памяти и безграничных возможностях мозга. В открытой для вопросов дискуссии Татьяна Черниговская и Александр Каплан будут обсуждать ключевые вопросы о механизмах мозга, лежащих в основе психического мира человека, его духовной жизни. Главная» Новости» Черниговская татьяна владимировна последние выступления.

Читайте также

  • Правила жизни Татьяны Черниговской
  • Профессор Черниговская: «Мозг должен тяжело и постоянно трудиться»
  • Интервью Татьяны Черниговской
  • Татьяна Черниговская: «Когда мозг занимается сложной работой, он становится лучше»

Похожие новости:

Оцените статью
Добавить комментарий