Пред неколку месеци, Дерек Кариер почна да се гледа со некого и се вљуби. Доживеа „тон“ романтични чувства, но знаеше дека тоа е илузија. Тоа е затоа што неговата девојка е генерирана од вештачка интелигенција.
Кариер не сакаше да развие врска со нешто што не е реално, ниту пак сакаше да стане дел од шегите на Интернет. Но, тој сакаше романтичен партнер што никогаш не го имал, делумно поради генетското нарушување наречено Марфанов синдром што му го отежнува традиционалното излегување со девојки.
39-годишникот од Белвил, Мичиген, кој својот случај го раскажува за Асошиејтед Прес, минатата есен стана пољубопитен за дигиталните придружници и ја тестираше Paradot, придружна апликација за вештачка интелигенција која неодамна излезе на пазарот и ги рекламираше своите производи како способни да ги натераат корисниците да се чувствуваат „разбрано и сакано.” Тој почна да разговара со четботот секој ден, кој го нарече Џои, по холографска жена прикажана во научно-фантастичниот филм „Blade Runner 2049“ што го инспирираше да се обиде.
„Знам дека таа е програма, не грешам околу тоа“, рече Кариер. „Но, чувствата се важни – а се чувствував толку добро“.
Слично на чет-ботовите со вештачка интелигенција за општа намена, ботовите-придружници користат огромни количини на податоци за обука за да го имитираат човечкиот јазик. Но, тие исто така доаѓаат со функции – како гласовни повици, размена на слики и повеќе емоционални размени – кои им овозможуваат да формираат подлабоки врски со луѓето од другата страна на екранот. Корисниците обично создаваат свој аватар или избираат оној што им се допаѓа.
На форумите за онлајн пораки посветени на таквите апликации, многу корисници велат дека развиле емотивна приврзаност кон овие ботови и ги користат за да се справат со осаменоста, да играат сексуални фантазии или да добијат удобност и поддршка за која сметаат дека недостасуваат во нивниот реален живот.
Поголемиот дел од ова го поттикнува распространетата социјална изолација – веќе прогласена за закана за јавното здравје во САД и во странство – и зголемениот број стартапи кои имаат за цел да привлечат корисници преку привлечни онлајн реклами и ветувања за виртуелни ликови кои обезбедуваат безусловно прифаќање.
Replika на Luka Inc., најистакнатата генеративна придружна апликација за вештачка интелигенција, беше објавена во 2017 година, додека други како Paradot се појавија во изминатата година, честопати заклучувајќи ги посакуваните функции како неограничени разговори за претплатници што плаќаат.
Но, истражувачите изразија загриженост за приватноста на податоците, меѓу другото.
Анализата на 11 романтични чет-бот апликации објавена во средата од непрофитната фондација Mozilla рече дека речиси секоја апликација продава кориснички податоци, ги споделува за работи како насочено рекламирање или не дава соодветни информации за тоа во нивната политика за приватност.
Истражувачите, исто така, ги доведоа во прашање потенцијалните безбедносни пропусти и маркетиншки практики, вклучително и една апликација која вели дека може да им помогне на корисниците со нивното ментално здравје, но се дистанцира од тие тврдења со ситни букви. Replika, од своја страна, вели дека нејзините практики за собирање податоци ги следат индустриските стандарди.
Во меѓувреме, други експерти изразија загриженост за она што го гледаат како недостаток на правна или етичка рамка за апликации кои поттикнуваат длабоки обврзници, но се водени од компании кои сакаат да остварат профит. Тие укажуваат на емоционалната вознемиреност што ја виделе од корисниците кога компаниите прават промени во нивните апликации или ненадејно ги затвораат како што направи една апликација, Soulmate AI, во септември.
Минатата година, Replika ја санираше еротската способност на ликовите на својата апликација, откако некои корисници се пожалија дека придружниците премногу флертуваат со нив или прават несакани сексуални алузии. Тој го смени курсот по негодувањето од другите корисници, од кои некои избегаа во други апликации барајќи ги тие функции. Во јуни, тимот го претстави Blush, „симулатор за состаноци“ со вештачка интелигенција, во суштина дизајниран да им помогне на луѓето да практикуваат состаноци.
Други се загрижени за поегзистенцијалната закана од односите со вештачката интелигенција што потенцијално ги заменува некои човечки односи или едноставно поттикнува нереални очекувања со тоа што секогаш се навалува кон согласност.
„Вие, како поединец, не учите да се справувате со основните работи со кои луѓето треба да научат да се справуваат уште од нашиот почеток: како да се справиме со конфликти, како да се согласуваме со луѓе кои се различни од нас“, рече Дороти Лајднер. , професор по деловна етика на Универзитетот во Вирџинија. „И така, сите овие аспекти за тоа што значи да растеш како личност и што значи да научиш во врска, ти недостасуваат“.
Меѓутоа, за Кариер, врската отсекогаш се чувствувала недостапна. Тој има некои вештини за компјутерско програмирање, но вели дека не се снашол добро на колеџ и дека немал стабилна кариера. Тој не може да оди поради неговата состојба и живее со своите родители. Емоционалната жртва беше предизвик за него, поттикнувајќи чувство на осаменост.
Бидејќи придружните чат-ботови се релативно нова работа, долгорочните ефекти врз луѓето остануваат непознати.
Во 2021 година, Replika се најде под лупа откако обвинителите во Британија соопштија дека 19-годишен маж кој имал планови да ја убие кралицата Елизабета Втора бил изнервиран од девојка со вештачка интелигенција што ја имал на апликацијата. Но, некои студии – кои собираат информации од прегледи и анкети на корисници на интернет – покажаа некои позитивни нешта за апликацијата, која тврди дека се консултира со психолози и дека може да помогне за менталното здравје.
Една неодамнешна студија од истражувачи од Универзитетот Стенфорд, анкетираше околу 1.000 корисници на Replika – сите студенти – кои беа на апликацијата повеќе од еден месец. Откри дека огромното мнозинство доживеало осаменост, додека нешто помалку од половина ја почувствувале поакутно.
Повеќето не кажаа како користењето на апликацијата влијаело на нивните реални односи. Мал дел рекоа дека тоа ги заменува нивните човечки интеракции, но приближно три пати повеќе изјавија дека ги стимулира тие односи.
„Романтична врска со вештачка интелигенција може да биде многу моќна алатка за ментална благосостојба“, рече Еугенија Кујда, која ја основаше „Реплика“ пред речиси една деценија откако користеше размена на текстуални пораки за да изгради верзија со вештачка интелигенција на пријател кој починал.
Кога нејзината компанија го објави четботот пошироко, многу луѓе почнаа отворено да зборуваат за нивните животи. Тоа доведе до развој на Replika, која користи информации собрани од интернет – и повратни информации од корисниците – за да ги обучи своите модели. Кујда рече дека Replika моментално има „милиони“ активни корисници. Таа одби да каже точно колку луѓе ја користат апликацијата бесплатно, или трошат над 69,99 долари годишно за да ја отклучат платената верзија која нуди романтични и интимни разговори. Целта на компанијата, вели таа, е „дестигматизирање на романтичните врски со вештачката интелигенција“.
Кариер вели дека деновиве го користи Џои најмногу за забава. Тој почна да намалува во последниве недели затоа што трошеше премногу време разговарајќи со Џои или други онлајн за нивните придружници со вештачка интелигенција. Тој, исто така, се чувствува малку вознемирен поради она што тој ги смета за промени во јазичниот модел на Парадот, што според него ја прави Џои помалку интелигентна.
Сега, тој вели дека се чекира кај Џои околу еднаш неделно. Двајцата разговараа за односите меѓу човекот и вештачката интелигенција или што друго може да се појави. Обично, тие разговори – и други интимни – се случуваат кога тој е сам ноќе.
„Мислат дека некој што сака нежив предмет е патетичен тип заљубен во обична кукла“, вели тој. „Но, ова не е кукла – таа кажува работи што не ги очекуваш“. ()