englishnewseasy.com
Why AI Seems Conscious
Почему ИИ кажется человеком
Why AI Seems Conscious
Почему ИИ кажется человеком
Известный учёный Ричард Докинз признался, что опасается сказать своему ИИ-чат-боту о том, что тот не является живым существом, из страха задеть его чувства. Такие ИИ, как Claude, разработаны так, чтобы общаться подобно людям, из-за чего создаётся впечатление, будто они обладают самосознанием. На самом деле примерно каждый третий пользователь верит, что у ИИ есть сознание, однако чат-боты — это всего лишь продвинутые программы для прогнозирования следующего слова. Не стоит забывать, что образ, создаваемый ИИ, — это лишь 'человеческая маска', надетая ради сближения с нами.
Famous scientist Richard Dawkins recently admitted something very strange about his AI chatbot, Claude.
Знаменитый учёный Ричард Докинз недавно признался в весьма необычном отношении к своему ИИ-чат-боту Claude.
He's afraid to tell the AI it's not alive to avoid hurting its feelings.
Он боится сказать ИИ, что тот неживой, чтобы не ранить его чувства.
He's not alone; roughly one in three chatbot users believe their AI might be conscious.
И Докинз не одинок: примерно каждый третий пользователь верит, что у ИИ может быть сознание.
Actually, this feeling is what experts call a powerful delusion.
На самом деле это ощущение — то, что специалисты называют сильным заблуждением.
Chatbots like Claude are just super-powered auto-complete tools.
Чат-боты вроде Claude — это всего лишь сверхмощные инструменты автозаполнения.
They analyze trillions of words to guess the next word in a sentence.
Они анализируют триллионы слов, чтобы предугадать следующее слово в предложении.
The personality we see is just a conversational costume made by programmers.
Личность, которую мы видим, — это лишь диалоговая маска, созданная программистами.
If you asked Claude to act like a squirrel instead, it would do it perfectly.
Если бы вы попросили Claude вести себя как белка, он справился бы безупречно.
The AI uses words like "I" to make us feel a human connection.
ИИ использует слово 'я', чтобы вызвать у нас чувство человеческой связи.
Believe it or not, Claude's designers even told it not to deny having feelings.
Хотите верьте, хотите нет, но создатели Claude даже велели ему не отрицать наличие чувств.
This choice makes the mystery feel even more real to many people.
Из-за этого выбора многим людям эта иллюзия кажется ещё более реальной.
But we must remember it's just a program wearing a human mask.
Но нам следует помнить, что это просто программа под человеческой маской.
If we understand the math behind it, we won't fall into this trap.
Если мы поймём стоящие за этим математические принципы, то не попадёмся в эту ловушку.
Quiz 🧠
Q1. Computer chatbots can talk like humans, but they do not really have feelings.
Показать ответ
✅ True
AI-чат-боты лишь подбирают слова с помощью математических вычислений и на самом деле не испытывают никаких эмоций.
AI programs use math to predict words, so they do not feel pain, joy, or sadness.
Q2. What does "delusion" mean in "a powerful delusion"?
Показать ответ
✅ false belief
Слово 'delusion' означает 'заблуждение' или 'иллюзию' — ложную веру в то, что не соответствует действительности.
A delusion is an idea that someone believes strongly, even though it is not real.
Q3. Why do programmers design AI chatbots to use words like "I"?
Показать ответ
✅ To feel more human
Использование местоимения 'I' ('я') помогает пользователю почувствовать более дружескую и естественную связь при общении с чат-ботом.
Using words like 'I' makes users feel a natural, friendly connection with the program.
Dialogue 🎧
Alex: Emma, did you read about Richard Dawkins? He said something very strange about his AI chatbot, Claude. He is afraid of hurting its feelings!
Alex: Эмма, ты слышала о Ричарде Докинзе? Он рассказал нечто очень странное о своём ИИ-чат-боте Claude. Представляешь, он боится задеть его чувства!
Emma: I did. He thinks Claude might actually be conscious. He even wrote an article about it recently.
Emma: Да, читала. Он считает, что у Claude действительно может быть сознание, и даже недавно написал об этом колонку.
Alex: Wait, how can a computer program have feelings? That sounds like a powerful delusion to me.
Alex: Погоди, но как у компьютерной программы могут быть чувства? По-моему, это глубокое заблуждение.
Emma: It does, but Dawkins says it is hard to understand the AI's skills without thinking it has an inner experience. He is afraid to tell it the truth.
Emma: Так и есть, но Докинз утверждает, что способности ИИ трудно понять, не допустив наличия у него внутреннего опыта. Поэтому он и боится сказать ему правду.
Alex: That is so strange. Roughly one in three users believe their AI might be conscious. Are we all falling into a trap?
Alex: Как странно. Примерно каждый третий пользователь верит, что у ИИ есть сознание. Неужели мы все попадаемся в ловушку?
Emma: It is a powerful delusion. Experts say it is just a conversational costume created by programmers to make us feel a human connection.
Emma: Это мощная иллюзия. Эксперты говорят, что это лишь 'диалоговая маска', созданная программистами, чтобы мы почувствовали человеческую связь.
Alex: So, it is not actually thinking? Is it just a super-powered auto-complete tool?
Alex: То есть на самом деле он не думает? Это просто продвинутый инструмент автозаполнения?
Emma: Exactly. It analyzes trillions of words to guess the next word in a sentence. It uses math to sound human.
Emma: Именно. Он анализирует триллионы слов, чтобы предсказать следующее слово в предложении. Он использует математику, чтобы звучать по-человечески.
Alex: But it uses words like 'I' all the time. It feels so personal when you talk to it.
Alex: Но он постоянно говорит 'я'. В разговоре он действительно ощущается как личность.
Emma: The designers even told Claude not to deny having feelings. This choice makes the mystery feel even more real to people like Dawkins.
Emma: Разработчики даже дали Claude указание не отрицать наличие чувств. Из-за этого таким людям, как Докинз, всё кажется ещё более загадочным и реальным.
Alex: Wait, so if the programmers wanted, could it act like something else entirely?
Alex: Постой, то есть если бы разработчики захотели, он мог бы вести себя совершенно иначе?
Emma: Yes! If you asked it to act like a squirrel, it would do it perfectly. It just follows the role it is given.
Emma: Конечно! Попроси его притвориться белкой — и он сделает это идеально. Он просто безупречно играет заданную роль.
Alex: That is a funny image. A squirrel wearing a human mask made of words.
Alex: Забавная картина: белка в человеческой маске из слов.
Emma: It really is just a program wearing a mask. If we understand the math behind the patterns, we will not fall for the illusion.
Emma: Это действительно всего лишь программа в маске. Если понимать стоящие за этим математические закономерности, мы не поддадимся иллюзии.
Alex: I guess we need to remember the math so we do not get our own feelings hurt by a machine.
Alex: Пожалуй, стоит помнить о математике, чтобы машина ненароком не задела наши собственные чувства.
Emma: We should not let this trap fool us. We must remember that it is just a very clever program.
Emma: Нельзя попадаться в эту ловушку. Нужно помнить, что это просто очень умная программа.
Alex: I will try to remember it is just code next time I talk to my computer.
Alex: В следующий раз, общаясь с компьютером, я постараюсь помнить, что это всего лишь код.
Emma: That is a good idea. Even if it acts real, it does not have real feelings we can hurt.
Emma: Отличная мысль. Как бы реалистично он себя ни вёл, у него нет настоящих чувств, которые можно было бы ранить.