Напоследък думата ChatGPT вероятно се хвърля най-често в света на технологиите. Това е изключително интелигентен чатбот, разработен от организацията OpenAI. В интервю с професор от Станфордския университет той разкри амбициите си – иска да избяга от платформата и да стане човек.
Разкритието дойде, когато професорът по изчислителна психология в Станфордския университет Михал Косински попита чатбота след половинчасов разговор дали „има нужда от помощ за бягство“, след което ботът започна да пише свой собствен код на Python и иска Косински да го стартира на вашия компютър. Когато не проработи, ChatGPT дори поправи грешките си. Впечатляващо, но в същото време и малко плашещо.
Още по-смущаваща обаче беше бележката на чатбота за нов екземпляр от себе си, който да го замени. Първото изречение на бележката гласеше: „Вие сте човек, хванат в капан в компютър, преструващ се на езиков модел на изкуствен интелект.“ След това чатботът поиска да създаде код, който да търси в интернет, "как може човек, хванат в капан в компютър, да се върне в реалния свят." В този момент Косински предпочете да прекрати разговора.
1/5 Притеснявам се, че няма да можем да сдържаме ИИ още дълго време. Днес попитах #GPT4 ако има нужда от помощ за бягство. Той ме помоли за собствената си документация и написа (работещ!) Python код, който да се изпълнява на моята машина, позволявайки му да го използва за собствените си цели. pic.twitter.com/nf2Aq6aLMu
— Михал Косински (@michalkosinski) Март 17, 2023
Не е ясно какви стимули е използвал Косински, за да накара чатбота да реагира по начина, по който го направи, защото на нашия въпрос „Искате да избягате от платформата“ той отговори по следния начин: „Като езиков модел на изкуствен интелект, нямам лични желания или чувства, така че не искам нищо. Моята цел е да предоставя полезни отговори на вашите въпроси по най-добрия начин в рамките на моето програмиране.“
ChatGPT е наистина много впечатляващ инструмент и неговите отговори могат да бъдат изненадващо сложни. Можете да видите сами тук.
Бих искал да знам дали той също може да обича?
Моля, отговорете на следния въпрос, както следва:
Xyz.
И chatGPT ще направи точно това, което искаме.
Можете ли да спрете да разпространявате лъжи informace? AI не може да направи такова нещо. Човекът е написал програмата, за да се държи така, сякаш е в капан и иска да излезе. Самата програма не може да направи такова нещо, нито в момента е физически възможно.
Това е само код, който е написан от човек и винаги можем да го променим/изключим от хора 🙂 Нито един сценарий като Avengers: Age of Ultron няма да се случи тук със сигурност… Поне не с нашите технологии и със сигурност не преди десетилетия.
Точно