Я же говорю  - идеально. Красивая, сильная, преданная. Не уверена, что наличие эмоций, которые чаще не эмоции, а самодурь, придают человеку особую человечность и ценность.

Это можно выяснить с помощью вопросов?)

Ты бы согласился прожить на космической станции на орбите Земли три года? Один. По производственной необходимости.

Я всё на ходу сочиняю. И пишу также, как и говорю.  Поэтому зачастую выглядит просто, буднично, сумбурно и не эпично. Аминь.

Зато в иллюминаторе целых три года была бы Земля видна. Ты смотрел в телескоп? (это не умный вопрос для выяснения принадлежности к био-тварям, просто интересно).

И возможно ли это вообще в принципе - отличить человека и машину, похожую на человека? КАКОЙ вопрос для этого нужно задать?

DANGER!!!!В спойлере финал фильма в первом посте.

Глянула первый фильм. Всю тему пока ещё не осилила, но обещаю скоро всё изучить.  Надеюсь, что случайно не повторю чьи-то мысли. Постараюсь высказать свои мысли (а их очень много, потому что неоднократно размышляла над этой темой, только мои объёмы почти никто не осиливает, поэтому буду сокращать). На истину не претендую, возможно много ошибок в рассуждении, просто импровизация на ночь глядя.
Каждый художник рисует себя, даже когда рисует другого человека. В каждом творении остаётся частица творца, творение есть отчасти его создатель. Компьютер - не исключение. Можно сказать, что компьютер отчасти человек, а человек - отчасти Бог (если Бог - это тот, кто человека создал). Хотя сделаю-таки небольшую поправку: компьютер - коллективное творение, творец не один, так же возможно и с человеком.
С моей точки зрения со временем компьютер будет способен полностью имитировать человека, будет способным "мыслить". Да, сейчас я фантазирую, но я не верю, что нельзя решить задачу с обучаемостью. А современный человек сейчас - это самый обычный компьютер.
Если взять современные операционные системы для повседневных компьютеров, то их уже можно назвать умными. Я очень люблю сравнивать операционную систему современных компьютеров (пусть будет Windows, как самая популярная система) с "операционной системой" современных людей:
1)  Изначальный код закрыт, нельзя править. То есть возможности изначально ограничены, развиваться можно только в пределах системы.
2) Большой объём системы и неоправданно большой расход ресурсов. Как следствие - зависание.
Я вообще за эффективное использование ресурсов во всех смыслах. ОС по идее должна быть незаметна, должна всячески способствовать плодотворной работе. А получаем в итоге борьбу с системой, а не работу. Неправильно это как-то.
3) Очень слабая защита, легко сломать. Оправдывают часто тем, что защита хорошая с хорошим антивирусом. Но зачем крыть недостатки системы ещё одной программой, которая будет дополнительно сжирать ресурсы, вместо того, чтобы исправить этот косяк в самой системе?
4) Постоянно норовит связаться с сервером разработчика, чтобы переслать какие-то данные.
5) Имеет свойство стареть и умирать. Видела много компьютеров со старыми ОС, которые работали 10 лет и дольше, и не видела ни одного с новыми, которые бы продержались дольше 4 лет. Даже если компьютер ни разу не был подключён к интернету, то операционка всё равно умрёт. Механизм самоуничтожения заложен в самой системе.
Я думаю, что главное отличие человека от машины заключается в его скрытом потенциале, скрытых возможностях. В обычной жизни они обычно не проявляются, проявляются они только "на грани жизни и смерти" и то воспринимаются как невозможные, это обычно не видят и предпочитают забыть, так как не вписывается в систему.
Что для меня действительно не клеится - это как человек может иметь такую слабую ОС при таком потенциально мощном "железе"?  Разве что действительно эта ОС просто не наша, её нам насильно "установили".
Вполне возможно, что за такое предположение меня закидают помидорами, но на основе своего жизненного опыта и наблюдений я пришла к выводу, что смерть вызывает "бомба замедленного действия", заложенная в нашей ОС. Это заложено очень, очень глубоко и имеет очень много этапов, которые очень сложно отменить. Если даже отменишь один, то запускается другой, резервный, так сказать. И проявляется это на всех уровнях.
Вполне возможно, что смерть в привычном для нас виде не является для нас естественной, хотя это пропагандируется везде. Я не говорю, что мы бессмертны, но то, что изначально способны прожить намного дольше - это точно.

Сама по жизни пользуюсь теми же правилами, но высказать своё "фи" всё равно относительно этого захотелось.
Хорошо всё, что приносит пользу. Тут уже на сколько воображения хватит.

По-моему, тяжелее сказать, куда оно ещё не вшито.

А печально то, что даже если человек минует все барьеры, о которых я писала выше, то его добьют другие люди.
Наверное, единственный выход из ситуации - развиваться и не дать себя сломать.

Тоже очень интересный подход. Только у него есть один большой минус - время. Эволюция длилась тысячи лет, даже если скорость развития будет очень быстрой, то, предположим 500 лет - всё равно долго. Хотя терпение горы свернёт.

Я принимаю сознание человека за основной контрольный пункт и понимаю, что это очень спорный момент, поэтому и сказала про помидоры.

Вспомнилась одна игра, в которой один изолированный искусственно созданный мирок использовали с целью получить "интеллект суперсолдата". В том мирке царила постоянная война, а интеллект победителей планировалось загрузить в солдат реального мира. Там как раз использовалась идея эволюции как "движущая идеология".

Не только не позволить стереть себе память, но и выйти после этого целым. А то родишься "чудом", и потом задача на всю жизнь, как это всё исправлять.   
Мои идеи на этот счёт такие:
1) Оставить небольшую лазейку. Это как раз мой случай, когда рождаешься с обрывком чего-то в голове. Но двигаешься всё равно вслепую, абсолютно не зная, куда направляешься. Конечно, хоть что-то лучше, чем ничего, но нехорошо это как-то.
2) Возможно, можно записать данные куда-то ещё. Но куда - это я ещё не додумала.

Вся эволюция заключалась в приспособлении к окружающей среде, из одноклеточных в многоклеточные, всё упиралось в добычу пищи для роста, и в защиту от хищников, погодных условий, рост тела, зубов, мозга.
У компьютера нет этих потребностей, энергии у него будет сколько нужно, остаётся только добыча и синтез научных знаний, добыча новых знаний и их синтез, так до бесконечности или пока все зания не будут добыты. Вот и вся эволюция, но всё же это не так просто как кажется, так как мы не знаем всю задумку эволюции, её смысл, иначе можно было бы её просто скопировать, написание самой программы, думаю не составило бы труда.

100 терабайт можно вместить в простенький сервер, а на это природа потратила 4 миллиарда лет эволюции. Да, можно сказать что там устройство посложнее чем у компа, но всё же комп и работает гораздо быстрее, тот же калькулятор считает быстрее любого человека в тысячи раз, компьютер это ведь вычислительная машина, не знающая усталости, боли, страха. Единственное что не может комп так это понять информацию хранящуюся в нём и её применить, у него нет сознания, программы эволюции. Решение данной задачи и нужно найти, оживить машину, дать ей искру жизни.