.svg){kind=icon}
Will the job market become a race where we, as humans, compete against AI?
Or is the future more about collaboration?
What skills should we be building today?
How can we avoid the threat of deskilling? And finally, what is the role of HR in all of this?
In the second episode of the "Supportive Company" series, hosted by Dr. Ewa Hartman, Dr. Iwo Zmyślony pulls back the curtain on the future. He is an academic lecturer, a specialist in non-automatable future skills, and an experienced art curator and critic. He holds a PhD in creativity in empirical sciences and has authored numerous scientific papers on cognitive psychology and expert knowledge.
- 00:00:00 Introduction
- 00:04:48 AI-resistant professions
- 00:07:42 Human advantages over AI
- 00:14:28 The problem of deskilling
- 00:29:50 Future skills
- 00:43:05 On the need for learning
- 00:49:15 When an expert is wrong
- 01:01:42 Supporting employees in the age of AI
- 01:13:15 New challenges for HR in the age of AI
Transcript
Dr. Ewa Hartman: He studied administration, philosophy of mind, and art history at universities in Poland, Belgium, and Germany. He holds a PhD in creativity in empirical sciences. He is the author of over a dozen scientific papers on cognitive psychology, expert knowledge, know-how, and tacit knowledge. He is a recipient of numerous grants and scholarships.
Between 2012 and 2016, he was active as a critic and curator of experimental art. For over a decade, he has conducted dozens of training sessions, presentations, and transformation projects for business and non-profit organizations. He is an academic lecturer and a specialist in non-automatable future skills. He is someone who isn't afraid to ask what the future holds and doesn't accept "we'll see" as an answer. Welcome.
Dr. Iwo Zmyślony: Hello, good morning. Good morning to you all.
Dr. Ewa Hartman: Iwo, welcome to our series, "The Company That Supports." And I have a question, completely out of left field – to quote Monty Python – "Is it made up or not?"
Dr. Iwo Zmyślony: You're asking about my surname. If someone is a Zmyślony, they are family. We recently calculated that there are about 847 Zmyślonys in Poland, according to Statistics Poland data. Everyone comes from the same roots; everyone is related, going back a few generations. So, we can settle this once and for all. People often ask me if that’s my real name. If someone is a Zmyślony, they are family. And there are quite a few Zmyślonys in Poland.
Dr. Ewa Hartman: Well, we’ve got that out of the way. Okay, that was a tough one, but the next one will probably be even tougher. Because I want to ask you right away – what is going to happen to people in the job market?
Dr. Iwo Zmyślony: It depends on the specific company and its business model. We need to be clear about that. We are promised that AI doesn't take jobs – and yes, it is a fact that AI doesn't take jobs. AI automates certain tasks and processes, but whether those tasks and processes are automated in your company or organization – and which ones – depends on the strategy and business decisions of that specific company, its business model, how the company wants to grow, what is important to it, the time horizon, and the competitive landscape. So, it’s difficult – and we must be clear about this – it depends on the specific company. Although, of course, we know which industries will likely see the fastest automation, and in which sectors it makes sense to automate tasks and processes that are typical or key to business models. Conversely, with today's technologies – and we must add the caveat that we don't know how AI will change in the coming years or decades, or what leaps are ahead of us – we have known for a good few years now, and this knowledge is only deepening, in which sectors human labor still provides more value than the prospects of automation.
Dr. Ewa Hartman: Give me a few examples, please – examples of these automatable competencies and businesses or industries, as well as the ones you mentioned last, where it’s not yet the case.
Dr. Iwo Zmyślony: Yes, let's leave competencies for later, because competencies are skills, attitudes... how to define them is a separate matter. As for industries, reports on this have been appearing for several years, including from the World Economic Forum. Recently, there was also a very detailed report prepared by Paweł Gmerk for a UN agency, I believe it’s called the International Labor Institute.
Dr. Ewa Hartman: We will link everything.
Dr. Iwo Zmyślony: Yes, we will provide links for you. The forecasts made a decade ago are being confirmed. Generally speaking, machines are getting better and better at performing repetitive tasks and processes in a stable environment. Repetitive in a stable environment. So, if you work in a business where you do more or less the same things every day, and what’s more, you work with repetitive data – structured data, like text or numbers – and the environment you work in (the context of your projects) is stable, meaning competitive conditions are stable, then those are areas that are ripe for automation and are already being automated.
And we have known for years that such sectors include, first and foremost, broadly defined IT services, coding, and software development, followed by banking, finance, insurance, and soon e-commerce, particularly in the areas of customer service, process automation, and services.
On the other side of the spectrum are areas like agriculture, fishing, forestry – any profession involving a lot of manual work. Recently, we’ve been using the plumber as a figure of speech for a profession of the future. A chef is a profession of the future, as is a hairdresser. Of course, this all assumes there will be demand for it, because let's remember that this doesn't exist in a vacuum. What good is it if I know how to cut hair or cook brilliantly if there are no customers? We assume there will likely be customers.
On the other hand, anecdotally, but to show this contextuality, who knows, maybe the competencies of the future will be survival skills. I know we are moving toward competencies rather than sectors, but it simply depends on what there will be demand for in the economy and culture, what skills are needed, what society will require of us, and what sectors will emerge.
For now – just for the sake of clarity – we know that with today's technologies, with what machine learning systems are capable of today, whether based on deep neural networks or the most popular models like LLMs or LRM (reasoning language models), these are areas mainly related to generating text, code, audio, video, and images. Wherever there is demand for it. And this is important, because we are going in the other direction again; perhaps the demand is actually for what is human? And today we are at a peak of disillusionment where businesses are starting to see that, "Okay, this is AI-generated – but what’s the point if it’s cheap and fast but lacks the quality that a human provides?" When we try to call and resolve an issue with customer service, I understand that it can be automated, we all understand...
Dr. Ewa Hartman: We get so frustrated, don't we?
Dr. Iwo Zmyślony: Right, but the point is that we don't actually want to talk. Ultimately, it comes down to whether a business cares about those customers who are happy to settle for a chatbot or voicebot, or if the key to that specific organization or company is actually the customers who want to speak to a human being.
Dr. Ewa Hartman: Exactly, and that brings something to mind—though please correct me if I'm wrong—we had the Moravec paradox, right? The belief was that intellectual tasks would be the hardest to automate. But look at it now—it's the exact opposite, isn't it? Purely intellectual tasks are much easier to automate, while areas involving variability, manual dexterity, or that typical human survival instinct—like agriculture, fishing, or navigating physical space—are where we run into real challenges. But what comes next?
Dr. Iwo Zmyślony: This is where we can get into the area of competence. I always emphasize in discussions about AI and its limitations that, unlike machines, we possess what is called general intelligence. We humans have general intelligence. Whether we use it is another matter, of course—not everyone uses it all the time. Our minds, as you know perfectly well, are evolutionarily programmed to run on autopilot, to rely on those habitual, reinforced neural pathways. However, unlike machines, we are capable of learning from very few individual experiences or examples. And that’s the point, because we’re going to keep hearing that machines are achieving "general intelligence," and we’ll be sold a lot of solutions labeled as such. Why? Because the industry and big tech—companies like OpenAI or Anthropic—are promising us that AGI, or artificial general intelligence, is just around the corner.
What they’ll end up calling by that name remains to be seen. I’d bet it will just be a multimodal version of what we have now—what’s known as ANI, or Artificial Narrow Intelligence—which is essentially generative machine learning capable of performing the tasks it was trained for on a massive scale.
I’m basing this on the concept of general intelligence developed by an excellent author I highly recommend you all follow: François Chollet. He’s an engineer, one of the pioneers of deep neural networks and deep learning, who spent years at Google and is internationally recognized for his achievements in machine learning, deep learning, and artificial intelligence.
He left Google last December and founded a startup called Ndea. He started it because he believes it is possible to create synthetic general intelligence, but unlike the promises made by people like Sam Altman, he defines general intelligence very strictly, referring directly to Kahneman’s "System 2." To circle back to the beginning of this thread: unlike machines, our minds can adapt to situations where we have very little experience, very little information, and have never encountered the context before. We can adapt based on just a few marginal, edge-case pieces of information.
As of today, the most advanced AI systems we have cannot do that. Chollet became known for creating a test designed to measure general intelligence—you can Google it, we’ll provide a link. The test is called ARC, which stands for the Abstraction and Reasoning Corpus. The point is that it measures the ability to draw conclusions, reasoning, and analogical thinking—hence the "A" in the test—based on just two, three, or four images. If you have children...
Dr. Ewa Hartman: So, like, "which triangle comes next," right?
Dr. Iwo Zmyślony: Something like that. And what’s important is that these images are designed in such a way that a 4- or 5-year-old—I have a 4-year-old and an 8-year-old—can...
Dr. Ewa Hartman: Same here.
Dr. Iwo Zmyślony: Exactly, they can pass these tasks; they can infer the properties of the next image based on just two or three examples. Machines can't do that. This means that children perform much, much better on this test than the most advanced systems available today—that is, better than LLMs or LRM-based models.
As long as humans are capable of creating tests that are very simple for people but effectively impossible for machines, we can talk about having what is known as general intelligence—which, once again, is the ability to adapt to new, unusual situations for which we haven't been trained.
Dr. Ewa Hartman: And you just mentioned that, meaning we can automate where the external context is relatively stable.
Dr. Iwo Zmyślony: Exactly.
Dr. Ewa Hartman: So, in a situation where there is any external instability, for now, to put it colloquially, only a human can handle it?
Dr. Iwo Zmyślony: Sure. And look, in business, instability now comes in the form of competitive conditions.
Dr. Ewa Hartman: For example. Whatever happens externally, yes.
Dr. Iwo Zmyślony: Externally, there are supply chains, distribution, resources, resource availability, and production costs. There are all kinds of breakdowns and crises. These are the circumstances that destabilize processes and tasks. And so, if we think about what is specifically human in business, it is precisely the ability to absorb these shocks.
And again, we are talking about something that has been known in management practice and theory for decades. We are talking about things like kaizen, lean management, agile, organizational culture, and sometimes holacracy. These are, of course, different terms and different traditions, but ultimately the question is: "Do you, as a company, a team, an organization, or an individual, have the resources to absorb shocks and navigate through crises?"
Dr. Ewa Hartman: And here you’ve touched on something that is very interesting to me, and I assume to those watching us as well. In your opinion, is there any threat to humans, or a situation or sequence of situations, that would cause us to lose our ability to absorb shocks?
Dr. Iwo Zmyślony: Do you mean in general, or in business?
Dr. Ewa Hartman: Yes, in general—first in general, and then let's move on to business.
Dr. Iwo Zmyślony: Generally speaking, I would say traumatic situations, that’s the most general answer.
Dr. Ewa Hartman: So that will weaken us…
Dr. Iwo Zmyślony: Yes, I mean, what does that mean? It means the disruption of neural communication in certain areas, the breaking of connections, demyelination, and so on. I mean, trauma, as you know, is an argument for the brain being neuroplastic, but those are extreme situations, right? However, on the other hand, a real risk that I see and that needs to be managed is what we call deskilling, or offloading. It’s not the same thing, but the real danger is that we will become increasingly dependent, figuratively speaking, on machines that perform repetitive tasks—and perform them better than we do.
Let’s remember—and I’ll say it again—this is knowledge we’ve had for at least a decade. Machines perform typical repetitive tasks much better than we do. We’re talking about typical tasks now, including the generative class—meaning a certain class of similarities to what has already existed—so they can create texts and images that are similar to those we already know.
And the practical problem is that in most tasks, whether in daily life or in business, we need something "good enough," meaning a result that is sufficient; it doesn’t have to be outstanding. We don’t care about the quality that comes from general intelligence or Kahneman’s "slow thinking," which is that resource-heavy, time-consuming, and effortful process of incorporating new information from outside our training or our existing knowledge.
And when you ask about risks that can truly disrupt our efficiency, beyond the trauma we started with, in a practical, everyday sense, it’s that we will lose the habit of making an effort and won’t be able to perform the tasks that we, figuratively speaking, offload to machines.
We call this process deskilling. To illustrate, here is a concrete business case: a graphic design firm, a team of designers, has been using an AI plugin for Photoshop for over a year. Following an update, the plugin stops working, and suddenly the team is unable to do the work they previously did "manually," i.e., without using AI.
Why? Because over that year, they sped up many tasks and processes that they used to do by hand, and now they do them with the help of AI. But when the AI is gone, the plugin doesn’t work, or the provider or the technology we use fails, suddenly we don’t know how to do it—we call that deskilling.
So that is what I would point to as a risk. A real risk that will make us less and less capable of using general intelligence, of using "System 2."
Dr. Ewa Hartman: And that is real, because we know the brain operates on energy conservation. So, on one hand, we have this equipment for adapting to changing conditions, because that’s what humans are—we are capable of finding our way fantastically with very little data. I remember once, during a workshop on a similar topic, where people were very impressed by how quickly artificial intelligence learns.
Of course, we know that it does learn and change, and there is constant progress. And I asked this question: "Think about your child. You probably showed them a picture of a cat once. That cat was likely drawn in a book, maybe it was pink, or even blue with flowers. And that was the only cat your child had ever seen. What would happen if your child saw a real cat? Would they be able to recognize that it’s a real cat, having only seen that small drawn picture?" And in most cases—yes.
Dr. Iwo Zmyślony: Of course, that’s generalizing, and that’s exactly what Chollet is studying with his test. Meanwhile, machines have to be fed hundreds of thousands of human-curated photos of cats, and that’s with context control and background control. It used to be that these machines—the so-called traditional AI, before the introduction of deep learning networks—required Chollet to tag everything precisely: all the elements, fluffiness, whiskers, distinguishing them from non-cats.
And today, as of now, it’s about using so-called self-supervised deep learning, where the machine classifies those repetitive features discovered in the data on its own. It still needs a human to control it—and that’s a general principle, the so-called "man in the loop." This means that when we use such a trained machine, to ensure it doesn’t make mistakes, to ensure it doesn’t classify cat-like non-cats as cats, we need a human who will control it and inform the machine: "Careful, that’s not a cat."
And behind all of this, when it comes to deep neural networks—let’s remember that we use language that is very loaded, in a way that is profitable for the providers of these technologies. There are no neurons there—it’s a model of a neural network, an abstract model of a neural network. These are algorithms. And we call them neural networks, forgetting that they are very far removed from actual neural networks.
Dr. Ewa Hartman: Tak, jestwiele takiego nazewnictwa.
Dr Iwo Zmyślony: Ale my się uczymy inaczej, bo od tegozaczęłaś, że my się nie uczymy mechanizmem propagacji wstecznej. Maszynapotrzebuje specjalnego algorytmu, który pozwoli jej uczyć się na tysiącach,mówiąc w uproszczeniu, na tysiącach przykładów i wychwytywać błędy, którepozwalają następnie skutecznie działać na podstawie tego treningu.
My, dzieci, właśnie mamy to, co nazywamy inteligencją ogólną,czyli tajemniczą zdolność, tajemniczą z punktu widzenia nauki, z punktuwidzenia modeli umysłu, z punktu widzenia także modeli, jakimi są tzw. siecineuronowe, że wystarczy, że zobaczymy jeden, dwa i potrafimy uogólnić na jakąśklasę. I jak to jest możliwe, to jest wielka tajemnica umysłu, której jeszczedzisiaj nie znamy, nie potrafimy wyjaśnić. To jest, wiecie, od początku – jakzaczęto robić naukę, od starożytnej Grecji, próbowano wyjaśnić, jak to jestmożliwe, że my poznajemy naszą tą tkanką pod czaszką, skończoną jakąś tampapką, ogólne prawa wszechświata, nie?
Czy te właśnie gatunki, rozpoznając pojedyncze jeden, dwa, trzyprzypadki, rozpoznajemy cechy całego gatunku, rozpoznając jakieś właściwościmatematyczne, zaczynamy mówić o ogólnych własnościach rzeczy i poznajemy kosmosdzięki matematyce. To są tajemnice. I ja generalnie stoję na takim stanowisku,wspomniałaś, że studiowałem filozofię umysłu. Znaczy, wszystkie te tematydzisiaj, które są odgrzewane w debacie publicznej przez osoby, które promujączęsto właśnie w interesie bardzo konkretnego biznesu big-techowego AI, to sątematy, które filozofia umysłu zna od lat 50. co najmniej, a tak naprawdęjeszcze od lat 30. I takie przekonanie, które stoi u podstawy takiegoparadygmatu, który dzisiaj jest dominujący, to się nazywa koneksjonizm, czylitakie przekonanie, że wystarczy stworzyć właśnie taki model umysłu i to jestkwestia, ile dostanie danych, ile dostanie mocy obliczeniowej i z niegonastępnie się wyłonią wszystkie właściwości umysłu, tak?
Czyli prędzej, czy później, świadomość, samoświadomość, możejakaś tzw. wolna wola, oczywiście, z drugiej strony, mówimy, że nie istnieje,zdolność do rozpoznawania ogólnych własności rzeczy, że to wszystko wyłoni sięemergentnie z tego, no to to jest jedna z tradycji raczej, dominująca długo whistorii filozofii umysłu i inspirująca twórców pierwszych modeli komputacyjnychumysłu, czyli tych maszyn liczących, które symulują umysł. Natomiast ona nie jest jedyna, tak, gdzie np.w tej chwili to, co widzimy, to, co ja obserwuję śledząc, powiedzmy, tę debatę,ten paradygmat się załamuje, do głosu dochodzi tzw. symboliczne podejście, czyneurosymboliczne. To jest spotykanie innej tradycji, gdzie potrzebna jestinterwencja człowieka, który wprowadzi meta-algorytmy, które pozwolą maszyniewłaśnie tworzyć ogólne kategorie.
I to jest nieprzyjemna perspektywa, bo pytanie, skąd tealgorytmy są w naszym myśleniu? Ewolucja je wpisała, ale skąd są w ewolucji?Więc to są takie pytania, na które znowu nie mamy odpowiedzi.
Dr EwaHartman: Może todobrze? Może to być bezpiecznik, który…
Dr Iwo Zmyślony: Ale jest przyszłość nauki, ja zmierzamdo tego, że ja uważam, że my po prostu jeszcze dużo... Pamiętajcie, żeuprawiamy naukę bardzo krótko – to jest 4 tysiące lat od, powiedzmy, czasówegipskich i pierwszej matematyki. To jest zdanie prof. Michała Hellera. Pamiętajmy,że nasza matematyka jest jeszcze bardzo prymitywna, bo my uprawiamy ją dopiero4 tysiące lat. Nie wiemy, jaka będzie matematyka za 4 tysiące lat, za 10tysięcy lat, jeżeli ludzkość dożyje.
Po prostu wiele rzeczy na temat tego, czym jest umysł, siędopiero okaże, tak? Więc taką arogancją jest to twierdzenie, że my dzisiaj,ponieważ potrafimy zbudować model umysłu, który coś tam imituje, np. imitujezachowania językowe, czyli to, co robią LLM-y, że to jest wszystko, conajważniejsze, co musimy wiedzieć na temat umysłu, nie?
Dr EwaHartman: Właśnie,i to mnie tutaj, w dwie rzeczy, wiesz, w dwa różne kierunki to, co powiedziałeś,mnie popycha, że jednak umysł ludzki, język, to jest rzecz późna, a najpierwbyła cała wiedza proceduralna, prawda? Ta wiedza deklaratywna, nawet dlaczłowieka, to jest późno. Nadal maszyna nie jest w stanie odtworzyć wiedzyproceduralnej, bo my nie umiemy jej nawet wyrazić. „Jak to jest jechać narowerze?”, prawda?
Dr Iwo Zmyślony: To jest wyzwanie takie, które stoiprzed robotyzacją, to znaczy chyba najbliżej, z tego, co widzę, tejproceduralnej wiedzy na poziomie takich umiejętności kinestetycznych, bo tutajczasami przydaje się taka szeroka koncepcja inteligencji zaproponowana przez prof. Howarda Gardnera z Harvarda,gdzie on – obok inteligencji językowej, poznawczej, matematycznej, muzycznej – wskazujegraficzną, społeczną, emocjonalną, kinestetyczną, przestrzenną, czyli tewszystkie wymiary inteligencji, które dla nas są obszarem wzrostu – relacjespołeczne, introspekcja, mądrość życiowa, ale też inteligencja przestrzenna czywłaśnie kinestetyczna, zręczność. I w tym modelu okazuje się, że maszyny, pókico, są od nas dużo lepsze, i coraz lepsze, ale tylko w niektórych obszarachinteligencji.
Powiedziałaś o inteligencji proceduralnej. To jest oczywiścieszeroki termin, bo to są też np. umiejętności intelektualne i zaraz przejdziemydo kompetencji. Ale zręczność – nie ma jeszcze maszyny, która by jeździła narowerze, to znaczy zaraz ktoś pokaże, że są żyroskopowe, samojezdne np. roweryczy motory, ale one jeżdżą w pewnych optymalnych warunkach. Nie ma maszyny,która potrafi skutecznie zawiązać sznurowadła czy krawat. I znowu, jak ktośpogoogluje, możemy tutaj zalinkować to, co robi DeepMind, czyli taki startupGoogle’a, tworzący taki projekt, to się nazywa „Aloha”, gdzie rzeczywiściepróbują tworzyć takie humanoidalne maszyny, które wykonują coraz to bardziejzręczne funkcje – typu potrafią zgniatać bez naruszania tkanek na przykład,czyli wyczuwają sprężystość, potrafią manipulować przestrzennie – ale to jestciągle jeszcze bardzo w powijakach i nieopłacalne kompletnie w skalowaniu.
Więc jeżeli wracamy do tematu: „Wiecie, kiedy będzie sięopłacało automatyzować np. pracę ludzką, taką manualną?”, to znaczy, na mojewyczucie tego tematu, to jest po prostu na razie kompletnie nieopłacalne. Toznaczy, te scenariusze, że w ciągu dekady, to mi się po prostu wydają bardzo,nawet nie tyle optymistyczne, co naiwne i – ostatecznie – elementem pewnegomarketingu.
Dr EwaHartman: Wieszco, mówisz o opłacalności i ja chciałam właśnie Ciebie – jako osobę z tymgłębokim filozoficznym tłem – zapytać: a gdzie w tym wszystkim jest etyka? Toznaczy, co mamy z tyłu głowy? Z jednej strony, tak, automatyzujemy pewnerzeczy, które da się zautomatyzować – i dobrze, możemy powiedzieć, że AI niezabiera pracy. Ale AI zabiera pracę –automatyzuje zadanie i procesy, które sięopłacają biznesowi. Czy gdzieś tu jest jeszcze miejsce na etykę? Jak myślisz?
Dr Iwo Zmyślony: Jest, tylko wiesz, możemy sobie na tematetyki podyskutować i bardzo szybko mam wrażenie, że dyskusja na temat etykiprzenosi nas w politykę. To znaczy w to, jakimi mechanizmami bronić interesówpewnych grup społecznych, czy też, inaczej, przed krzywdą. Ja się kiedyśpasjonowałem etyką – tylko żeby było jasne, to jest tak, że moglibyśmy gadać isię gryzę w język po prostu, żeby nie gadać o etyce – ale z czasem narastał teżmój sceptycyzm do etyki – taki, że to są systemy, które racjonalizują często dopoziomu bardzo takich nieintuicyjnych wniosków, to znaczy, że systemy etyczne,tak?
I na końcu ja proponuję, i sam wyznaję, bo mamy odkrycie Kanta,tzw. imperatyw kategoryczny, czyli my taką mamy tajemniczą właściwość właśniegdzieś naszej inteligencji – i znowu pytanie, czy to nie jest cechainteligencji specyficznie ludzkiej – że rozpoznajemy, co powinniśmy robić wkażdej sytuacji. Kant twierdził, że każdy to ma. Nie tylko Kant zresztą, wfilozofii średniowiecznej była koncepcjasynderezy, którą mało kto zna, która była dokładnie o tym, że jarozpoznaję zasady moralności na zasadzie: „Ja wiem, co powinienem” i skąd sięto bierze, że mamy samą tą zdolność. To nawet nie chodzi o to, że myrozpoznajemy normy, tylko tą zdolność do odróżniania dobra od zła – że my tomamy. I „Ja wiem, co ja powinienem uczynić” – to było odkrycie Kanta.
I to jest jedna rzecz, którą ja generalnie przyjmuję z takiegokorpusu historii etyki, a druga rzecz to jest, że granicą tego, co można, tojest krzywda drugiego człowieka. Oczywiście, jak rozumiemy krzywdę? Jeżeli jaidę z dzieckiem, szczepimy się przeciwko kleszczom na przykład, to ja tamkrzywdzę to dziecko, czy nie krzywdzę? Jeżeli idziemy leczyć zęba, to jakrzywdzę, czy nie krzywdzę? Ale krzywda.
I teraz wracamy do tego. Wiadomo, że automatyzacja oznaczakrzywdę dla wielu osób. Oznacza krzywdę, bo ktoś traci perspektywę dochodu. Aleja, z drugiej strony, zastanawiam się, czy większą krzywdę nie wyrządzamyludziom, nie uprzedzając o tym, że dzisiaj, i to jest taka praktyczna, jeżeli Tyoczekujesz – i to jest naprawdę nieprzyjemne – że Ty będziesz miał pracę przezcałe życie i będziesz robił to, co robisz i będziesz pracował dzień po dniu,tak jak nasi rodzice jeszcze pracowali, wykonując mniej więcej to samo. No topytanie: czy będziesz potrzebny gospodarce, czy będziesz potrzebnyspołeczeństwu?
Dr EwaHartman: Iwłaśnie, i to jest to, prawda? Czyli, co możemy dla siebie zrobić? Najpierwzacznijmy od siebie, ale też bym chciała Cię zapytać, co można zrobić napoziomie biznesu, żeby tej krzywdy było mniej – to znaczy już nie wchodźmy ażtak bardzo moralnie – czyli, żeby jednak było nam łatwiej, tak? Czyli, żebyśmynadal byli na tyle potrzebni, na ile możemy być. Tak indywidualnie najpierw –co Ty uważasz? Ja jako ja, jako Ewa, Ty jako Ty, jako Iwo – co my mamy zrobić?Czego my się mamy uczyć?
Dr Iwo Zmyślony: Ja stawiam to tak: co ja muszę umieć,żeby być potrzebny społeczeństwu, innym, gospodarce, biznesowi? Ale to nie musibyć tylko biznes. Czego będą potrzebować od nas, za co będą gotowi nam wprzyszłości płacić, tudzież się i w inny sposób jakiś odwzajemniać? Czyli, wtym sensie, praca – czym ma być ta praca przyszłości, co ja muszę umieć? Nowięc najprostsza odpowiedź jest taka – musimy umieć to, czego nie potrafiąmaszyny. Musimy umieć robić to, czego nie potrafią robić maszyny i tutaj ta inteligencjaogólna, o której gadaliśmy, jest jakąś podpowiedzią.
Kahneman, myśleniewolne Kahnemana, jest podpowiedzią. Czyli musimy umieć robić rzeczy, którepozwalają się adaptować w sytuacjach nieprzewidywalnych, w sytuacjachnietypowych, w sytuacjach skrajnie kontekstowych. Czyli to są umiejętności,które wiemy, że nie będą automatyzowane, czy nie są automatyzowane dzisiaj, idopóki nie powstanie syntetyczna inteligencja ogólna – w tym rozumieniu Cholleta,czy takim ostrym rozumieniu, czyli de facto w rozumieniu Kahnemana „modeludrugiego”, „systemu drugiego” – czyli nie powstanie syntetyczna zdolność doadaptacji systemu maszynowego w sytuacjach, do których nie było trenowany, i októrych, Chollet podkreśla, że nie mogli sobie pomyśleć nawet twórcy tegosystemu. I on to tak podaje, że my potrzebujemy syntetycznej inteligencjiogólnej, ponieważ np. chcemy odkrywać kosmos i chcemy stworzyć maszyny, którepolecą gdzieś, w jakieś odmęty kosmosu, do obszarów, których my nie potrafimysobie nawet pomyśleć, i będą umiały tam się adaptować i robić coś, co nam jestpotrzebne, żeby potem przynosiły jakieś odkrycia.
Więc dopóki nie ma tej technologii – Chollet twierdzi, że onajest możliwa, zobaczymy, ale na razie nie ma na to widoków – są tylko obietnicei już mówiłem o tym, że raczej będzie nam sprzedawane coś innego pod tą nazwą,nie? To możemy przewidywać, że my, ludzie, musimy umieć robić rzeczy, którychnie potrafią maszyny. Wiemy, co to są za rzeczy. To jest zdolność do adaptacjiw nowych, nietypowych sytuacjach. To nie znaczy, że nie mamy mieć umiejętnościreagowania w sytuacjach typowych, bo tutaj, jeśli byśmy mieli to sprowadzić dotakiego żargonu, powiedzmy, zarządzeniowego, czy takiego HR-owego, to mamy do rozróżnieniakompetencje miękkie i twarde.
I kompetencje twarde, to jest takie – przy całejnieszczęśliwości tej terminologii – mamy kompetencje twarde, to są te, którepozwalają nam działać skutecznie w powtarzalnych sytuacjach, w stabilnymśrodowisku, tak? Obsługiwać narzędzia, wypełniać, robić tabele przestawne wExcelu, używać jakichś maszyn, interfejsów, robić dzień po dniu mniej więcej tosamo.
Ale mamy właśnie po drugiej stronie te tzw. kompetencjemiękkie, które – dzisiaj odchodzimy od tego terminu, mówimy „poznawcze”,„człowiecze”, „emocjonalne”, „społeczne”, już zaczynamy dzielić – ale to sągeneralnie te, które pozwalają nam się adaptować właśnie do sytuacjinietypowych, do tych niestabilnych środowisk. To są kompetencje, i mówię teraznaprawdę puentami, bez których nie ma agile’a, bez których nie maeksperymentowania, bez których nie ma przechodzenia przez procesy innowacji,przez procesy zmiany, przez kryzysy, przez różnego rodzaju załamania rynku,niespodziewane wstrząsy.
Jeżeli nie masz kompetencji miękkich, to po prostu nie maszzasobu, żeby przejść przez sytuacje, do których nie byłeś trenowany – jakojednostka czy organizacja. Problem z nimi jest taki, to znaczy ja tutaj stawiamznak równości między systemem – to nie jest znak równości, ale dla uproszczenia– między „systemem drugim” Kahnemana, inteligencją ogólną, a tzw. kompetencjamimiękkimi. Problem z tymi kompetencjami jest taki – po pierwsze, bardzo ciężkojest je trenować, bo myślenie krytyczne jest kompetencją miękką, kreatywnośćjest kompetencją miękką, rezyliencja jest kompetencją miękką, aktywne słuchaniejest kompetencją itd. Empatia, ciekawość, zdolność do radzenia sobie zpoczuciem dezorientacji, z dyskomfortem społecznym – to są wszystko kompetencjemiękkie.
Jak to ćwiczyć? Ja ćwiczę, robimy szkolenia z tego. Problemjest taki, że jeżeli mam na szkoleniach ludzi, którzy nie chcą, to jak możnabyć empatycznym, jak Ty nie chcesz być empatycznym? Jak można braćodpowiedzialność i być liderem, czyli pracować na zaufanie zespołu, pracować nazaangażowanie zespołu, pracować nad sobą, żeby nie być gołosłownym, żeby byćdla ludzi, dla dzieci, dla pracowników punktem odniesienia, jak Ty nie chcesz?
Więc one są trudne, dlatego, że rozwój – jeszcze raz, mówimy otym, że rozwój tej inteligencji ogólnej, rozwój zdolności do adaptacji – wymagazasobu, jakim jest zaangażowanie, chcenie, czyli też, wiesz, dopamina, zasobydopaminy. Ale jest jeszcze problem taki, że OK, dobra, chcemy, ale jest pytanie:„Czy Ty masz możliwość w firmie korzystania z tych kompetencji?”.
I ja tutaj teraz streszczam coś, co badam od wielu, wielu lat.Wniosek jest taki: Ty nie kupisz na rynku pracy kompetencji miękkich, firmo,nie kupisz, nawet nie zatrudnisz ludzi, bo Ty możesz zatrudnić ludzioczywiście, którzy potrafią myśleć krytycznie, potrafią zadawać pytania,potrafią eksperymentować, potrafią podejmować decyzje w warunkach ryzyka, ale pytanie:„Czy Ty masz kulturę i procesy, które to wspierają?”. I lądujemy w takiejpuencie, że kluczem do robienia tego, czego nie potrafią maszyny, na dziś dzieńjest kultura organizacyjna.
Są krytyczne zasoby strategiczne w firmie, które już trzebaprodukować – i które niektóre firmy produkują. Zasoby zaufania, lojalności,dobrostanu, wdzięczności pracowników, zaufania biznesowego, wiarygodności,tego, że ludzie ufają swoim przełożonym, że ci przełożeni mają lojalnośćpracowników, czyli zapracowali sobie na to zaufanie. I to jest coś, czegoabsolutnie, i to jest naprawdę gruba sprawa strategicznie – tego nie kupisz,tego nie wyprodukujesz w pięć minut, a to jest to, co musisz mieć, żebyprzechodzić przez zadania i procesy, do których maszyny najwyżej Ciępodprowadzą.
Dr EwaHartman: Co mnie,od razu, wiesz, ja chcę to sprowadzić do takiego bardzo praktycznego punktu. „Rybajest zepsuta od głowy, psuje się od głowy i jest zdrowa od głowy” – czyli to,co powiedziałeś – jeżeli na górze organizacji nie ma świadomości wartościnieautomatyzowalnych kompetencji, to taka kultura organizacyjna będzie się sama,tak naprawdę, skazywała na porażkę.
Dr IwoZmyślony: Znaczy,porażkę, wiesz – i tutaj właśnie trochę diabła pobronię – powiedzmy, że to jestdiabeł, to jest to, że ja totalnie kupuję od czego zaczęliśmy, że są sektory,modele biznesowe, które można zautomatyzować w całości. Są, bez pokazywaniapalcem. Totalnie sobie wyobrażam np. w pełni zautomatyzowane jakieś leasingi,usługi finansowe, jakieś jednoosobowe software house’y, takie rzeczy, nie?Natomiast pytanie, czy akurat ci, co nas słuchają, pracują w tego typu firmach,czy raczej w firmach, które będą budować przewagi na innowacyjności,adaptacyjności, długim trwaniu, zwinności. Więc to zależy na końcu odkonkretnego modelu biznesowego, tak?
Dr EwaHartman: Zakładamy,że jednak naszym słuchaczom zależy na tym, żeby być na rynku zwinnym, żeby sięadaptować, żeby się rozwijać, a nie wszystko zautomatyzować i przerzucić wmaszyny. To liderstwo to jest od góry temat. Czyli uświadamianie. Nadal ja towidzę podczas swoich warsztatów, gdzie kompetencje miękkie często nazywa sięnawet „niemerytorycznymi”. I to już deprecjonuje sam fakt kompetencji miękkich– „Bo pani to prowadzi takie szkolenia niemerytoryczne, a my takie wolimymerytoryczne”.
Dr Iwo Zmyślony: To wolicie to, co można bardzo łatwozautomatyzować.
Dr EwaHartman: A znowujak mamy te „niemerytoryczne”, to musimy wejść, tak jak wspomniałeś, w kulturęorganizacji i tutaj jednak tych odnóg mamy dużo, prawda? I mamy dobrostan, boniezadbana głowa nie będzie w stanie zaufać chociażby, prawda? Nie będzie wstanie zaufać, bo będziemy w trybie przetrwania. Niezadbana głowa nie będzieelastyczna poznawczo, bo wiemy, jak wiele wysiłku potrzebujemy dla „systemudrugiego”, tak? Niezadbana głowa nie będzie zadawała pytań, a jeszcze dodatkowo,jeżeli zadawanie pytań, czy iteracja, szukanie odpowiedzi, to jest „niemerytoryczne”,w sensie, wiesz, szukanie, takie drążenie jest „niemerytoryczne”, bo przecieżlepiej by to było powiedzieć „Tak/ Nie” w Excelu, to troszeczkę się możemy,znaczy, możemy się skazać, prawda, na odsunięcie?
Dr Iwo Zmyślony: To, wiesz, to czym się zajmujesz, czylineuroprzywództwo, czyli wiedza o mózgu, wchodzi jako, bo to jest tak, że są organizacje,które to rozumieją i od wielu lat, od dwóch dekad się na to przygotowują, czyliwłaśnie inwestują np. w dobrostan. W takim szerokim rozumieniu słowa „dobrostan”,czyli w to, żeby ludzie przychodząc do firmy, na końcu, wiecie, tak obrazowo –chodzi o to, żebyśmy podpinali do siebie swoje mózgi. Allan Schore, ja ostatniopodpieram się jego koncepcją neurosynchronii, my wiemy, że nasze mózgi potrafiąwytwarzać jakości, są dużo bardziej produktywne, jeżeli właśnie podłączymy siędo siebie przez te oczy, które są kawałkiem mózgu na wierzchu i stworzymy wspólnietaką meta-sieć z naszych połączeń neuronalnych i tam te mózgi zaczynają inaczejpracować. Tyle że to się nie zadzieje, co wspomniałaś, bez tego, że wygasimy tewszystkie „poziomy małpie” i „gadzie”.
Dr EwaHartman: Tak,strachu, lęku, braku zaufania, stresu.
Dr Iwo Zmyślony: I to jest zasób, ja mówię, to jestzasób strategiczny. Słuchajcie, to wychodzi na końcu bardzo konkretnie, albojeśli masz kryzys w organizacji, to albo ludzie wierzą swoim przełożonym, czylimają kapitał zaufania, albo wszystkie komunikaty są traktowane jako ściema iludzie sobie produkują własne wersje rzeczywistości. Albo przyjeżdżają – ostatniomiałem na warsztacie faceta, który opowiadał, że firmę, gdzieś tam koło Kłodzka,zalewało im park maszynowy, w środku nocy, w weekend, jak szła ta rok temupowódź – ludzie sami przyjechali, nikt im niczego nie kazał, nie było poleceń,przyjechali do firmy ratować majątek firmy. Są takie firmy, ostatnio, nie wiem,historia nap. firmy, która produkuje paluszki, zdaje się...
Dr EwaHartman: …a tak, tak,to znaczy, też nie pamiętam dobrze nazwy, ale była dosyć duża akcja, tak.
Dr Iwo Zmyślony: Wiecie co, w ICAN mam od latprzyjemność, że pracuję z dziesiątkami organizacji – i takich organizacji wPolsce przybywa, jest ich dużo, gdzie właśnie właściciele, decydenci rozumieją,że to są krytyczne, strategiczne zasoby: zaufanie, lojalność, wdzięczność,transparentność, przewidywalność, bezpieczeństwo psychologiczne. I oni w toinwestują, bo tego nie kupisz, a jeszcze raz, my o tym gadamy dlatego, że tegodokładnie potrzebujesz, jako „obiektywnego złota” w organizacji, jeżeli chceszrobić rzeczy, których nie potrafią maszyny. Tak, jeżeli chcesz przechodzićprzez sytuacje typu kryzysy, konflikty, ale też innowacje. Bo innowacjegłębokie są rozumiane, nawet te płytkie, takie inkrementalne, to jestkwestionowanie status quo, to jest szukanie błędów, to jest szukanie, copoprawić, głębokie no to już jest eksperymentowanie, tak, czyli radzenie sobiez porażką, radzenie sobie z niepewnością.
I albo mamy zasoby w organizacji, które pozwalają to robićefektywnie, albo tych zasobów nie mamy, a ich nie kupisz. Raz jeszcze – niekupisz tego na rynku pracy, nie wyprodukujesz tego w pięć minut. Więc na dziśdzień, i pamiętajcie Państwo, że to jest przede wszystkim przy zastrzeżeniu, żenie ma syntetycznej inteligencji ogólnej w tym głębokim rozumieniu, czylitakim, jak sobie zdefiniowaliśmy. Jeszcze tylko podkreślę, że to nie oznacza, żenie trzeba mieć kompetencji twardych. To nie o to chodzi. Nie, nie kompetencjetwarde. Właśnie paradoksalnie, Ty musisz uważać, żeby Ci to, co powiedzieliśmyna początku rozmowy, żeby Ci maszyna nie zdemilinizowała mózgu, nie?
Dr EwaHartman: No właśnie,czyli nadal potrzebujemy absolutnie policzyć, wiedzieć, co nam wypluje Excel,chociażby, żeby odeprzeć halucynacje, prawda, żeby móc je wyłapać?
Dr Iwo Zmyślony: Tak, więc o to chodzi, że teraz Typotrzebujesz ludzi, którzy mają kompetencje twarde, nie zgłupieli od tego, żete zadania i procesy, do których są potrzebne kompetencje twarde, wykonująmaszyny – czyli nie zdeskillowali się maszynami, nie zdeskillowali maszynamitych kompetencji twardych – i potrafią ich używać do wyłapywania błędów, donadzorowania maszyny, a jednocześnie mają ten zasób tzw. miękki. I to jestpodpowiedź najlepsza, jaką mamy na dziś dzień, żeby przygotowywać się na światautomatów.
Dr EwaHartman: Natomiastdla mnie tu jeszcze wybrzmiewają dwa elementy. One cały czas się przewijały wTwojej wypowiedzi. Jedno to jest uczenie się, czyli „Ja chcę się uczyć” – sampodkreślałeś ten element „Ja chcę” – czyli tu jest właśnie moja wola. A dwa, jachcę świadomie wystawiać się na dyskomfort. I teraz, zobacz, jakie to jesttrudne właśnie z punktu widzenia naszego mózgu, który jednak woli oszczędzaćenergię. Pierwszym jego odruchem jest automat, ale jak najbardziej my mamy „systemdrugi”. Mamy ten system, czyli po coś nam natura ten system dała. Masz jakąśpodpowiedź?
Dr Iwo Zmyślony: To znaczy, natura wyeliminowała tych,którzy tego nie mają.
Dr EwaHartman: Wieszco? Jeszcze chyba są takie jednostki, które mogą mieć „system drugi”.
Dr Iwo Zmyślony: Ale to jest paradoks właśnie, żecywilizacja nam dała, że jest tak dobrze, że my głupiejemy.
Dr EwaHartman: Takzwany kryzys, comfort crisis, jest nawet taka książka.
Dr Iwo Zmyślony: Nasze ciało jest przystosowane doświata wybrakowanego, gdzie nie mamy przyjemności. Więc tutaj, też dziękinaszym rozmowom, rozmowom z Tobą, ja też zrozumiałem ten związek międzydopaminą a zaangażowaniem, że jednym z bardzo istotnych ryzyk jest to, że jeślimy będziemy za dużo procesów i zadań automatyzować na co dzień, to jest teżpozbawianie się sprawczości i też pozbawianie się nagrody za wysiłek.
To znaczy, my sprowadzamy, korzystając z AI, proces do wyniku.A jak nam daje wynik, oszczędza nam procesu. I to jest taki meta-deskilling,odzwyczajanie się od wysiłku. I ja, wiecie, Państwu opowiadam od lat historięmojej siostrzeniczki, która – no bo to jest takie pytanie, wiecie, jakprzygotowywać też nasze dzieci na ten rynek pracy za 10-15 lat, na rok 2035,czy 2040 – jak je uczyć?
I moja siostrzeniczka, która w 2019 roku miała 12 lat,wymyśliła sobie w środku pandemii, że ona chce do szkoły Elona Muska. To jesttaka szkoła – to jest oczywiście skrót myślowy – którą stworzyliwspółpracownicy Elona Muska ze SpaceX i Tesli. Którzy zadawali sobie pytanie,jak przygotować nasze dzieci na świat przyszłości, czego je uczyć, i doszli downiosku, że żadna szkoła tego nie robi dobrze, więc stworzyli własną. Ta szkoła się nazywa „Ad Astra”.
Dr EwaHartman: „Dogwiazd”.
Dr Iwo Zmyślony: Tak, pierwotnie działała gdzieś tam wKalifornii, teraz do Teksasu się przenieśli. I oni ruszyli w 2020 roku zprogramem online, który się nazywa „Synthesis”. I Tosia, która wymyśliła sobie,że chce, przystąpiła do tego programu. Tam był dosyć zawiły proces rekrutacji,ale dostała się, była jednym z 80 dzieci, które w pierwszej edycji uczyły się wtej szkole. I ja się pytam „Dobra, to pokaż mi, Tosiu, czego Wy się tamuczycie?”. A ona mówi: „A wiesz, nikt nam w sumie niczego nie tłumaczy, niczegonie pokazuje, tylko każą grać w grę”. W grę. I teraz, gra polega na tym, żenikt niczego nie tłumaczy, ale z czasem okazuje się, że ich tam dzielą ich nadrużyny i te drużyny rywalizują ze sobą, ale nikt nie wie, w co grają.
Nie wiemy, w co gramy. Gra polega na tym, że nikt niczego nietłumaczy, ale z czasem okazuje się, że gra polega na tym, żeby odkrywać zasadygry, odkrywać, co jest zasobem i kumulować te zasoby. To jest kapitalne.Zastanówcie się Państwo, co to jest za gra, której zasad nikt nie tłumaczy, alew którą wszyscy musimy grać, odkrywać, co jest zasadą, co jest zasobem i jakkumulować te zasoby do dalszej gry.
No i jak zadaję to pytanie na różnych warsztatach, to ludziemówią, że albo to jest życie, albo to jest biznes. I obie te gry są właśnietakie, ale co im tam mówiono? I wiesz, jeszcze raz, ta sytuacja – grasz w grę,w której nie wiesz, co jest zasadą, co działa, a co nie działa. Nie wiesz o cograsz.
Dr EwaHartman: Cały czas iterujesz.
Dr Iwo Zmyślony: Iterujesz i odkrywasz. I co impodkreślano? Dwa komunikaty były. „Przytul poczucie dezorientacji” – „Embracechaos”, czyli „Przytul poczucie dezorientacji, chaosu”. I „Learn to cooperate”.Dwie podstawowe cechy, dwie podstawowe skille przyszłości, umiejętności. Albodajesz sobie radę w sytuacjach, wiesz co robić. Albo umiesz sobie radzić zpoczuciem silnego stresu, dyskomfortu, dezorientacji i podejmować decyzje wwarunkach niepewności. Albo nie. I czekasz, aż ktoś Ci powie, co robić. A druga– albo potrafisz tworzyć z ludźmi zespoły, właśnie te takie amortyzujące siatkipołączeń neuronalnych, czyli takie, że my się czujemy ze sobą bezpiecznie. Tutajcały John Lynch, Amy Edmondson, właśnieneuroleadership nam wchodzi. Albo nie, albo nie potrafisz tworzyć zespołów,tylko wydajesz polecenia i oczekujesz, żeby inni robili to, co Ty każesz. I tojest, mówię tak anegdotycznie, ale dokładnie nas wprowadza w centrum tego, comy wiemy na dziś dzień, że musimy umieć, żeby sobie radzić w tym świeciepostępującej automatyzacji.
Dr EwaHartman: Izobacz, znowu, my mamy absolutnie zdolność do kooperacji, bo tylko ludzie są wstanie stworzyć, byli w stanie stworzyć tak duże plemiona funkcjonujące. Tak,jednak w żadnej grupie innej, pozaludzkiej nie mamy tak dużych stad, nazwijmyto już tak w uproszczeniu. A jednocześnie mamy mechanizmy, które nam wchodzą wkolizję, wiesz, gry statusowe, będziemy się przepychać.
Dr Iwo Zmyślony: Ja mówię „małpi mózg” na to. Terytorialność.
Dr EwaHartman: Tak,właśnie tym „małpim mózgiem” będziemy się przepychać, terytorialnie będziemysię przepychać. To musi być – „Moja racja jest lepsza, niż Twoja”. I znów jestta dualność. Z jednej strony, jesteśmy wyposażeni w to, żeby tworzyć,współpracować, bo to jest zdecydowanie przewaga ludzka, a wchodzi nam tutaj...
Dr Iwo Zmyślony: Ale jeszcze masz Kahnemana, wiesz, biasy.Wiesz Kahneman, znowu, cała koncepcja, za którą został nagrodę Nobla zabadanie, które prowadził z AmosemTversky’m, no biasy. Czym są „biasy”? Znaczy, na język polski, to się tłumaczyjako „błędy”, ale to nie chodzi o „błędy”, to chodzi o „obciążenia”, ja tłumaczę„biasy” jako „obciążenia”.
Dr EwaHartman: Właśnie, tosię źle to tłumaczy.
Dr Iwo Zmyślony: Tak, a tu chodzi właśnie o to, że tojest super, ale w sytuacji stabilnej, powtarzalnej. Wiedza ekspercka, twardekompetencje są super, jeżeli Ty masz przyszłość podobną do przeszłości. Jeżeliwynik, który się powtarza z przeszłości, można zagwarantować w przyszłości.Natomiast to staje się Twoją kulą u nogi, obciążeniem nawykowym, które powodujetakie właśnie tunelowanie, ignorowanie sygnałów zmiany. I dlatego, mówię „paradokseksperta” – eksperci mają predyspozycje do podejmowania złych decyzji wniestabilnym systemie, czego dowodem są wszystkie bankructwa, wszystkie porażkibiznesowe. „Bo ekspert wie lepiej”. Popatrzcie Państwo, kto zmienił w każdymobszarze gospodarki reguły gry? To były tzw. start-upy, w większości robioneprzez nie-ekspertów, przez nastolatków, którzy nie byli obciążeni właśnieperspektywą, że się da…
Dr EwaHartman: ….da,bądź się nie da.
Dr Iwo Zmyślony: Więc tu nie tylko chodzi o „gadzi”/„małpi”,ale też jest ten „system pierwszy”, „leniwy”, czyli: „Ja wiem lepiej. Ja wiem,ponieważ robię to od 10-15 lat”. I teraz, początkiem zarządzania tymi właśniezasobami ludzkimi – ja mówię na to z premedytacją „Nowe zasoby ludzkie” –wdzięcznośćlojalność, zaangażowanie, poczucie bezpieczeństwa, kompetencje społeczne, kompetencjeemocjonalne – to są Twoje „nowe zasoby ludzkie”. Początkiem do tego jest wewszystkich programach rozwoju organizacji samoświadomość – świadomość tychwłaśnie mechanizmów, świadomość tego, co mózg z nami robi, co nas obciąża, jakwpływa na nas AI, właśnie na czym polegają te obciążenia poznawcze. I to jestpoczątek, a potem ciężka praca nad tym, żeby umieć ciężko pracować.
Dr EwaHartman: Ja teżdosyć często podaję na warsztacie taki przykład, że w obecnym świecie biznesudwie rzeczy są bardzo ważne – i to jest świeże oko i doświadczenie, ale one zreguły nie idą w jednej osobie. Więc właśnie dlatego musimy się nauczyć słuchaći kooperować, bo będziemy mieć te dwie ogromne wartości, czyli wartośćdoświadczenia i wartość świeżego oka, które mogą wybrzmieć, bo jeśli one niemogą wybrzmieć właśnie na skutek obciążeń, tak o których powiedziałeś „Bo jarobię to od 15 lat, to ja wiem lepiej”…
Dr Iwo Zmyślony: Jeszcze do tego status, ten „małpi mózg”,„moje terytorium”.
Dr EwaHartman: To już jest droga,prawda, równia…
Dr Iwo Zmyślony: …równia pochyła do tego, co było. Mówię, to działa w systemiestabilnym, więc ja, wiecie, to jest złożona dyskusja, dlatego, że to działałoprzez historię naszego gatunku, bo świat był powtarzalny. My żyjemy w świecieniestabilnym, dopiero teraz zaczyna ten świat przyspieszać, dopiero naszepokolenia są pierwszymi, które doświadczają takiego tempa zmian. Jeszcze nasirodzice mieli pracę przez całe życie, nie? Jeszcze pokolenie naszych dziadków.
Dr EwaHartman: Mój tata wykonywałswój zawód przez 50 lat. Bo odszedł też bardzo późno na emeryturę, ale to byłoto samo miejsce pracy, ten sam pracodawca. Jedyna zmiana, jaka nastąpiła, to poprostu była zmiana lokalizacji na skutek przeniesienia budynku. Może niebudynku, ale adresu, w inne miejsce. Natomiast tak, to jest ten model.
Dr Iwo Zmyślony: Znaczy, i teraz ja mówię o tym, bo myto mamy ciągle w głowach. I my myślimy w tych kategoriach, a tutaj myrozmawiamy o czymś do czego, gdzie zaczyna się ta historia w momencie, kiedy mysobie uświadamiamy, że to już jest przeszłość. Ja myślę, że masz podobnie imyślę, że tak naprawdę każdy z nas, kto jeszcze słucha i ogląda tą nasząrozmowę, wie dobrze, że większość zadań, które będzie robił jutro, czy pojutrze,będą trochę inne od tych, które robi dzisiaj. Każdy projekt jest troszeczkę inny.Nawet jak robię dwa razy to samo szkolenie, to za każdym razem jest inna grupa,inny kontekst, właśnie zmienia się wiedza, dezaktualizuje.
Więc my jesteśmy obciążeni masą rzeczy, tutaj Kahneman jesttakim pomostem, metafory „gadziego”/„małpiego” mózgu, ale to, co ja chcępowtarzać, z tą anegdotą, powiedzmy, o Tosi, z tym, co wiemy o inteligencjiogólnej, że my dzisiaj musimy umieć robić rzeczy, których nie umiemy – umiećrobić rzeczy, których nie robiliśmy.
Jak to usprawnić? No właśnie – tworząc zespoły. Ja mam takiepowiedzenie od jakiegoś czasu, co mi się sprawdza w życiu, co rzeczywiściedziała, co ćwiczy jakoś, kształtuje tą dyspozycję – to jest: „Rób bardzo trudnerzeczy z bardzo ciekawymi ludźmi”. „Bardzo trudne rzeczy z bardzo ciekawymiludźmi”. I to działa od, jak myślę teraz, nie wiem, mam dzieci, no to z nimi topracuję, tak? Unikaj łatwych rzeczy, unikaj tego, żeby mózg Twój sięprzyzwyczajał, znaczy unikaj przyzwyczajania mózgu do przyjemności łatwych. Tojest naprawdę bardzo trudne, nie? No a to jest to, żeby mózg się nieprzyzwyczajał do tego, że bezwysiłkowo ma przyjemność, że bezwysiłkowo mawynik.
Dr EwaHartman: Czylicały czas mówimy o tym, żebyśmy my, jako ludzie, pielęgnowali proces.
Dr Iwo Zmyślony: W ramach „systemu drugiego” Kahnemana.
Dr EwaHartman: Tak,proces. Nie tylko szukając natychmiast rozwiązania, które w wielu obszarachbędzie nam dawała sztuczna inteligencja, pomijając proces. A właśnie ta całasiła jest w tym wysiłku, prawda?
Dr Iwo Zmyślony: W przyzwyczajeniu głowy do wytwarzanianowych połączeń neuronalnych, no bo o to chodzi. Dzisiaj nawet dzieciom wszkole mówią: nie uczyć się wierszyków, nie uczyć się pisania, uczyć siępromptować. To jest bardzo dużo, może nie ze złą wolą, ale to są bardzokrzywdzące narracje. Pomyślcie sobie Państwo, macie w domu sługę alboniewolnika, który za Was pisze wypracowania i za Was wszystko pamięta, nie? Nobo to jest coś takiego.
I teraz, znaczy, kogo my w takim razie wytwarzamy w takimsystemie edukacji, gdzie wszystkie prace, cały ciężar pracy mózgu, tego „systemudrugiego”, jest outsourcowany na właśnie tego sługę czy niewolnika? No teraz tojest maszyna, nie? Ale to jest jeszcze jeden poziom, słuchajcie Państwo, bo tojest pytanie, kto ma potem te kompetencje? To znaczy, maszyny to nie spływają,to jest tak, że za tym stoi wielki kapitał, za tym stoją bardzo konkretnekorporacje.
Dzisiaj nie tknęliśmy tego w tej rozmowie, ale to też jesteksplorowane. Na końcu to jest pytanie, OK, my sobie przyspieszamy naszezadania w miejscu pracy, nasze zadania i procesy jakimś tam dostawcą AI,powiedzmy „x”, żeby nie pokazywać na żadnego konkretnego. OK, no to terazprzyspieszyliśmy 10-krotnie, super, robimy w konsekwencji 10 razy szybciej ibierzemy 3 razy tyle, powiedzmy, zleceń i tam ludzie potem mają, oczywiście, odrazu więcej pracy tej trudnej, no bo AI robi, powiedzmy, tą łatwą, ale potempojawia pytanie: „Dobra, to na końcu kto ma te kompetencje? Jeżeli Tykorzystasz z maszyn, które wykonują zadania ekspertów, to kto ma Twoją wiedzęekspercką, kto ma informacje przetwarzane przez te systemy wiedzy eksperckiej?”.
I gdzieś tam na końcu pojawia się pytanie, czy aby to nie jestjednym z celów tej całej rewolucji, o której słyszymy, żeby bardzo konkretnegrupy kapitału przejęły wszystkie krytyczne procesy gospodarcze i kontrolowałykluczowe procesy przetwarzania danych. W ogóle abstrahujemy teraz od kwestiideskillingu, ale gdzieś są też takie ryzyka strategiczne na końcu – kto ma Twojedane i kto ma Twoje kompetencje, i na ile dyktuje Ci warunki potem, np. koszty.A co, jeżeli firma podniesie 10-krotnie subskrypcję, nie? To co, zrezygnujesz zwiedzy?
Dr Ewa Hartman: A już Twoi pracownicy nie potrafią tegorobić.
Dr Iwo Zmyślony: A już Twoi pracownicy się zdeskillowali,tak?
Dr EwaHartman: A jużnie wrócisz do tego, żeby ponownie coś robili ludzie.
Dr Iwo Zmyślony: No więc, weźcie, to jest takie strategiczne,że dlatego my chociażby musimy dbać, wymyślić sposób w naszych firmach, jakdbać o to, żeby wiedza ekspercka naszych pracowników…
Dr EwaHartman: …zostałafirmie.
Dr Iwo Zmyślony: Dokładnie, nie?
Dr EwaHartman: No tojest duży temat.
Dr Iwo Zmyślony: No duży.
Dr EwaHartman: Tojest duży temat, jednocześnie tutaj mamy nadal cały czas wysiłek, cały czasmamy biznes, który chce przyspieszać, prawda? Który jak najszybciej chcelikwidować „wąskie gardła”…
Dr Iwo Zmyślony: …jak najniższym kosztem.
Dr EwaHartman: Tak,jak najniższym kosztem likwidować „wąskie gardła”. I znowu nam tu wchodzi tenmózg ludzki – on umie, ale musi być w odpowiednich warunkach, żeby mu sięchciało, prawda? Bo inaczej mu się nie będzie chciało, bądź nie będzie wstanie, w braku zaufania, w przemęczeniu, w trybie przetrwania i mu się niebędzie chciało. I to, co mówisz, bardzo mi przypomina pewną taką japońską… niejapońską, tylko łacińską sentencję, która została mi jeszcze po studiach, nawiązującdo szkoły, w której była Twoja siostrzeniczka. I pełna sentencja jest taka: „Per aspera ad astra”.
Dr IwoZmyślony: Czyli„Przez cierpienie do gwiazd”.
Dr EwaHartman: Tak,prawda?
Dr Iwo Zmyślony: Oczywiście, to jest stare jak mądrość Zachodu,czy w ogóle mądrość ludzka, że nie ma „There is no free lunch”. To znaczy,kompetencja to nie jest to, że coś robisz, tylko to, że umiesz. To jest to, żety próbowałeś, próbowałaś, próbowałaś, próbowałaś, próbowałeś, nie wychodziło,nie wychodziło, nie wychodziło, potem zaczęło wychodzić, a potem doskonalić. Iprzeszedłeś tą drogę 100 razy, utrwaliłeś te połączenia neuronalne i to jestkompetencja, a nie to, że Ty masz wynik, nie? Dlatego wcześniej uciekłem od tegopytania o kompetencje, że my mamy bardzo uproszczony obraz, bo myślimy, że kompetencjeto jest to, co daje wynik.
Dr Ewa Hartman: Finalnie tak.
Dr Iwo Zmyślony: Tak, tylko, że ja dlatego mówię, że tosą zadania i procesy, albo Ty masz kompetencje do robienia tych zadań iprocesów, albo Ty przerzuciłeś te zadania i procesy na maszyny i sam traciszokazję, żeby te kompetencje kształtować, utrwalać. I jak, zacytuję terazCiebie, jeśli nie używasz jakiegoś kawałka mózgu, to te neurony sąnieodżywiane, tak? Tam informacje…
Dr EwaHartman: Tak,tak, metabolicznie są niezasilane.
Dr Iwo Zmyślony: Więc z czasem rdzewieją, tak? OK,łatwiej wrócić, tak? Ale ten powrót też wymaga wysiłku. Więc naprawdę takabardzo praktyczna… Uważam, że mówimy o rzeczach, które są bardzo dobrzeuzasadnione naukowo na gruncie wielu różnych tradycji. To nie tylko psychologiapoznawcza, to są neuronauki, ale też sama inżynieria danych i właśnie to, co Chollet,który wychodzi z pozycji inżyniera systemów uczenia maszynowego i dochodzi dotych wniosków, że naprawdę wiemy, co dzisiaj robić, żeby zabezpieczyć się imieć zasoby do rozwoju w świecie postępującej automatyzacji. W świecie, gdziecoraz więcej zadań i procesów wykonują maszyny. I mamy firmy, organizacje,które to robią od dawna, bo ja naprawdę, jak ja robię warsztaty na ten temat,czy jakieś wystąpienia, to ja pokazuję teksty, które ja poznałem 10 lat temu – itam ciągle to jest.
Zobaczcie sobie Państwo, możemy zalinkować oczywiście,wystąpienie pana, który stworzył takąspołeczność Kaggle, czyli konkurs dla twórców uczenia maszynowego z 2016roku. I on tam już wtedy to mówi. Myśmy wtedy już wiedzieli, że przyszłośćgłębokiego uczenia to jest przyspieszanie zadań i procesów, skalowanie zadań iprocesów, powtarzalnych, typowych, w typowych kontekstach, w stabilnychśrodowiskach, natomiast to, co człowiek umie, to jest zrobienie rzeczy nowychkontekstowo, specyficznych, adaptacja do nowych okoliczności, zdolność do,mówimy obrazowo, łączenia kropek, czyli wyszukiwania informacji, którychmaszyna nie ma w bazie danych, nie ma w bazie treningowej.
Mówienia nawet maszynie, bo to ktoś powie, że „OK, ale tomaszyna wykryje”, no ale tak, ktoś musi zaprojektować sensory dla tej maszyny.Znaczy, maszyna skądś musi brać informacje, które potem będzie przetwarzać wtym systemie. Więc ona jest ślepa i głucha, to człowiek jej podaje – poprzeztakie czy inne dane wejściowe, poprzez informacje w bazie treningowej, czypoprzez jakieś sensory, które to potem baza treningowa przetwarza.
Więc cały czas tylko, owszem, zawężamy, ale jednocześniepogłębiamy ten obszar gdzie to człowiek będzie robił przewagi i – jeszcze raz –przynajmniej dopóki nie powstanie inteligencja ogólna syntetyczna w tymgłębokim rozumieniu, nie w tym znaczeniu komercyjnym. Nie jest w tym znaczeniu,że nazywamy coś inteligencją ogólną, tylko tak, jak to zdefiniował Chollet.
Dr EwaHartman: Aleczłowiek musi mieć do tego warunki.
Dr Iwo Zmyślony: Warunki – i takie osobiste – czyli,podsumowując, to jest, że „Ja chcę”, ja mam ten zasób też ten dopaminowy, czyliutrwaloną zdolność do robienia rzeczy trudnych, i że mam warunki środowiskowe,czyli to, co nazywamy dobrostanem, mówiąc ogólnie – bezpieczeństwopsychologiczne i procesy w organizacji, które na to pozwalają.
Dr EwaHartman: Iteraz chciałabym Ci zadać takie pytanie na koniec. Wyobraź sobie, że zasiadaszw jury konkursu „Firma, która wspiera” – „Firma, która wspiera pracownika wdobie AI”. I Ty, jako juror, jakie byś kryteria oceny wstawił do takiegokonkursu? Co chciałbyś widzieć, że „Firma która wspiera pracownika w dobie AI”robi? Co ona takiego robi?
Dr Iwo Zmyślony: Ale wspiera pracownika w dobie AI?
Dr EwaHartman: Tak.
Dr Iwo Zmyślony: To jest dobre pytanie, ale nie mamjakoś przemyślanej odpowiedzi. Pierwsze, co myślę, to jest, czy ta firmapotrafi tworzyć przestrzeń do eksperymentu.
Dr EwaHartman: OK, czylipierwsze, to przestrzeń do eksperymentu.
Dr Iwo Zmyślony: Czy, właśnie, bo to jest trudnomierzyć, znaczy, czy tworzy też warunki do eksperymentu, bo ta przestrzeń tojest to, czy właśnie przełożeni w tej firmie, procesy, bo to trzeba by w takimkonkursie umieć mierzyć. Jak mierzyć to, czy, po pierwsze, organizacja rozumie,jakie zadania i procesy wymagają eksperymentu.
Ja się posługujętutaj, może Państwu podpowiem, kapitalnym modelem na to jest tzw. CynefinFramework. Dave Snowden z IBM opracował taki framework, niektórzy na tomówią macierz, ja wolę, która pozwala określić, jakie zadania i procesywymagają eksperymentowania, takiego zwinnego podejścia, iterowania takiego,gdzie my rozpoznajemy bojem, mówiąc o branży.
I to jest dla mnie to kryterium. Czyli firma, która wspiera AI,bo całą resztę automatyzuje, bo to jest drugie kryterium w tym konkursie. Pokażmi, ile swoich zadań i procesów w modelu biznesowym efektywnie zautomatyzowałaś.Tylko, wiesz, problem z tym konkursem jest taki, że co model biznesowy, to sąinne kryteria.
Bo jedni będą, bo choć to zależy od tego, kto tam kupuje, jakta firma chce rosnąć, więc mam kłopot z takim konkursem, bo co z czymporównywać, nie? Ale myślę, że to te dwa czynniki – to znaczy, na ileosiągnąłeś sukces w automatyzacji, jakoś tam mierzonej w kontekście twojegomodelu biznesowego. Efektywność automatyzacji, ale znowu – jak mierzona?Kosztami? Skalowalnością? Poniesionymi kosztami? Ciężko tak rozstrzygać.
A z drugiej strony, wspieranie człowieka oznacza, czy tworzymywarunki do rozwoju tych kompetencji nieautomatyzowalnych i do robienia tychrzeczy, których automaty nie potrafią, natomiast mogą nas wspiera, tzw.augmentacja. Maszyny też mogą nas wspierać w eksperymentach, modelowaniu,przyspieszać te zadania i procesy, ale na końcu to jest to – właśnie tylko mypotrafimy robić to, co robi ogólna inteligencja, czyli pozyskiwać zupełnie nowejednostkowe dane i interpretować całą naszą wiedzę w kontekście tych nowychdanych, stawiać hipotezy, zadawać pytania, projektować eksperymenty, a potemwyciągać wnioski i podejmować decyzję, czy dalej idziemy, czy piwotujemy.
Dr EwaHartman: A pamiętasz,Ty, ze swojego życia – teraz odchodzimy na chwilę od AI – taką sytuację, wswojej karierze, że faktycznie dostałeś, ze strony firmy, bądź pracodawcy,wsparcie, i to z Tobą zostało? I co to było?
Dr Iwo Zmyślony: Tak. Znaczy, pamiętam wszystkie tesytuacje, kiedy tego zabrakło i to jest wbrew pozorom bardzo ważnedoświadczenie, bo wszyscy mamy doświadczenia ze złymi przełożonymi, z po prostuludźmi, którzy tego nie rozumieją strategicznie, i można się bardzo dużonauczyć od złych przełożonych i złych organizacji. I to jest naprawdę bezcienia kokieterii tutaj. Natomiast tak, ja mam to szczęście właśnie, że jamówię o rzeczach, które nie tylko rozumiem i badam, ale też doświadczyłem tegow środowisku akademickim, czyli przestrzeń eksperymentu w środowisku eksperckim,w ramach pewnego obszaru, gdzie, z jednej strony, Ty musisz się wykazać bardzowysokimi kwalifikacjami merytorycznymi, żeby, powiedzmy, wejść do pewnej grupy,ale z drugiej strony, jak już masz te kwalifikacje, to w tej grupie jest przestrzeńdo eksperymentu, do zadawania pytań, do sformułowania hipotez, do dywagowania,wchodzenia właśnie w różne procesy, które są niepewne i nawet na końcu jestporażka, informacja o tym, że coś się nie udało.
Ale ta porażka jest zawsze źródłem, po pierwsze, wiedzy o tym,co nie działa –tutaj, powiedzmy, Popper się kłania, falsyfikacjonizm – alboźródłem nowej wiedzy, którą z procesu właśnie robienia rzeczy trudnychwynosimy. To jest też tak, że robiąc coś, ja podaję przykład, kurczę, zobaczciesobie Państwo historię SpaceX, właśnie, Muska. Oni pierwsze trzy starty mieliporażki, ale to było po to, żeby się nauczyć, co działa, co nie działa. No więctakie firmy są.
Też pracowałem z artystami, o czym wspomniałaś, i akurat tu niepowiem, bo to jest środowisko, które często deklaruje różnego rodzaju rzeczy,ale akurat ta przestrzeń do eksperymentu to nie zawsze funkcjonowała poprawnie.Raczej tam była często presja na to, żeby zrobić coś, co się dobrze sprzeda, poprostu, kuratorsko, gdzieś tam publiczności. Natomiast poznałem artystów czyprojektantów, bo też pracowałem przez wiele lat z designerami, projektantami,wiele osób, które wchodziły w procesy eksperymentu niesione takim właśniesubiektywnym drive’em, osobistym drive’em, poszukując. Nie wiem, artysta robipracę pół roku, szuka jakiegoś rozwiązania formalnego, robi prototypy jeden zadrugim, inwestuje w to mnóstwo kasy, bo to wszystko kosztuje, żeby produkować,a na końcu podejmuje decyzję, że jednak nie ma tego efektu, na którym mu zależało.
I tak, sąartyści, są uczeni, naukowcy, są środowiska, gdzie to jest oczywiste. I to jesttak, że Ty musisz mieć ten drive wewnętrzny, Sinek mówi „O why, dlaczego torobisz, w tym napędzie?”, ale ja dodaję do tego to, co nam podpowiada,nie wiem, chociażby David Rock, czy Amy Edmondson, czy Carol Dweck dzisiaj, badania nad growth mindsetem, żejeśli chcesz mieć to w biznesie, to nie możesz liczyć na to, że wszyscy będąjak takie falochrony i nie potrzebują wsparcia.
Nie, takich ludzi w populacji prawie nie ma, tych wybitnychjednostek, które nie potrzebują wsparcia. Większość z nas potrzebuje wsparciaśrodowiska do wchodzenia w takie procesy. I powiem tak, że teraz szkoląc ispotykając na warsztatach ludzi z biznesu od kilku lat już, bo to takintensywnie od, powiedzmy, tam pięciu, sześciu lat mam grupy z bardzo różnychorganizacji.
Tak, to jestnaprawdę wielu, poznałem prawdziwych liderów biznesu, którzy, chociażby podamprzykład, zobaczcie sobie Państwo historię Krzysztofa Folty, twórcy firmy TIM.Jego wywiady, znaczy z nim, jakie on ryzyka podejmował, i czym ryzykował, i jakmu to się opłaciło na końcu – i zadać sobie pytanie, co trzeba mieć, umieć, żebyosiągnąć taki sukces, umieć podejmować decyzje w warunkach skrajnejniepewności.
Znaczy, jak liczysz, że zrobisz innowacje w oparciu opowtarzalne praktyki, to nierozumiesz, czym jest innowacja. Nawet jak kopiujesz rozwiązania to podejmujeszryzyko. Przykłady, takie jeszcze z rynku, no to, nie wiem, marka Oshee. Jakpowstała marka Oshee, to było skopiowanie jakiegoś tam pomysłu ze Stanów, aletwórcy marki podjęli ogromne ryzyko.
Takie więcej przykładów, nie wiem, historia na przykład Fritz-koli, też jest podobna.Więc po produktach można pokazać że takie firmy istnieją, które potrafią torobić. Natomiast jak pracuję z biznesem, to albo pracuję z ludźmi, którzy tomają i potrzebują jakiegoś tam wsparcia, albo wchodzę do firmy, która, pojakimś czasie okazuje się, że oczekuje, że ktoś to jej zrobi, i ludzie niebiorą odpowiedzialności. I wiem, że ta różnica jest bardzo trudna dowytworzenia – różnica motywacji właśnie. Dzisiaj mówię, że tego potrzebujesz,bo bez tego nie będziesz umiał robić rzeczy, których nie potrafią automaty. Jeżeli chcesz się rozwijać, jeżelipotrzebujesz długiego trwania jako organizacja, trzeba w to inwestować.
Dr EwaHartman: Czylijest miejsce dla firm, które wspierają?
Dr. Iwo Zmyślony: There is room for it, but I would say that time will tell which businesses will move toward full automation—there will certainly be some—and which will focus on developing what cannot be automated. But that is all we can say, because due to the instability of the environment, we don't know which way contexts will shift or how macro circumstances will unfold. I mean, technologies—for now, they depend on things like rare earth metals, which isn't talked about enough, and energy technologies. Right now, what is actually bottlenecking technological development is the availability of rare earth metals, which are necessary to build all that hardware. Energy availability. And, excuse me, what are the wars in the world about? Today, that is generally one of the answers to the question of why we are exploring space as well.
So today, how this will scale depends on where we will have those leaps, let's say, outside the systems we operate in, outside our organizational systems. For now, I know, we see, we all see—it's not like we are just now inventing the discussion about organizational culture or psychological safety. There are companies that have been investing in this for years—and for at least 10 or 15 years, right? Today, we are just putting it together that this is exactly what you must have, a strategic resource without which you won't get non-automatable competencies moving, right?
Dr. Ewa Hartman: Exactly. So, what now? We still have some work ahead of us, mainly to find the motivation to want to do it.
Dr. Iwo Zmyślony: To find the motivation to want to do it, yes. And for organizations to understand that.
Dr. Ewa Hartman: So we are to do hard things….
Dr. Iwo Zmyślony: …with interesting people.
Dr. Ewa Hartman: With interesting people. And that is what we wish for ourselves. And that is what we wish for our listeners. Do hard things with interesting people. Thank you.
.jpg)