Fregen merkitysteoria tukeutui kaikesta hienostuneisuudestaan huolimatta epätyydyttävään selitykseen ajatuksista abstrakteina objekteina. Tractatuksessa ei tarvinnut käsitellä tällaista ongelmaa, koska siinä käsiteltiin merkitystä – ja kieltä ylipäätään – riippumatta siitä, miten ihmiset todellisuudessa käyttävät kieltä. Alle 10 vuotta teoksen valmistumisen jälkeen Wittgenstein alkoi kuitenkin uskoa, että tämä kielen ulottuvuus on ensiarvoisen tärkeä. Ilman jonkinlaista selvitystä siitä, hän ajatteli nyt, koko Tractatuksen järjestelmä romahtaisi kuin korttitalo. Kirjoituksissaan ja opetuksissaan vuodesta 1930 lähtien hän vastaavasti korosti sanojen ja käytännön inhimillisen toiminnan välisiä yhteyksiä. Sanat elävöityvät tai saavat merkityksensä tällaisten toimintojen kautta – ja vain niiden kautta. Erilaisissa pienissä tarinoissa, jotka kuvaavat hänen “kielipeleiksi” kutsumiaan asioita, Wittgenstein kuvitteli ihmisten laskevan, kutsuvan työkaluja, antavan ohjeita ja niin edelleen. Verratessaan sanan merkitystä nappulan voimaan shakissa hän korosti, että merkitys on olemassa vain inhimillisen toiminnan yhteydessä. Käsittäessään kielen erillään sen käyttäjistä Tractatus oli näin ollen jättänyt huomiotta kielen olemuksen. Wittgensteinin myöhempiin töihin liitetty iskulause on vastaavasti “Merkitys on käyttöä”, vaikka hän itse ei koskaan ilmaissut tätä näkemystä näin varauksettomassa muodossa.

Yksi Wittgensteinin pääteemoista on kielellisten dispositioiden avoin tai avoimeen tekstiin perustuva luonne. Vaikka etenkin filosofien mielestä saattaa tuntua siltä, että sanojen käyttö määräytyy erillisten ja yksiselitteisten sääntöjen soveltamisen perusteella – ja näin ollen sanan merkityksen tunteminen on sama asia kuin vastaavan säännön tunteminen – todellisten puhetilanteiden huolellinen tarkastelu osoittaa, että missään tapauksessa yksi ainoa sääntö ei voi selittää sitä lukematonta käyttötapojen moninaisuutta, johon yksittäistä sanaa voidaan käyttää. Wittgenstein kysyy esimerkiksi, mikä sääntö selittäisi sen suuren määrän erilaisia asioita, joita voidaan kutsua peliksi. Kun etsitään jotain yhteistä kaikille peleille, löydetään vain “monimutkainen verkosto päällekkäisiä ja ristikkäisiä yhtäläisyyksiä: joskus yleisiä yhtäläisyyksiä, joskus yksityiskohtien yhtäläisyyksiä”. Eri pelejä näyttää yhdistävän vain epämääräinen “sukulaisuus”. Sanan käyttöä ei siis määrittele mikään monimutkainen sääntö tai määritelmä – ei edes sellainen, jota sovelletaan tiedostamatta – vaan ainoastaan melko rento taipumus sisällyttää joitakin asioita mukaan ja sulkea toiset pois. Jos tähän liittyy ylipäätään sääntö, se on triviaali: peleiksi kutsutaan vain niitä asioita, jotka ovat pelejä. Sanojen merkityksen tunteminen ja kieliyhteisön jäsenyys yleensä ei siis merkitse sääntöjen tuntemista, vaan ainoastaan sitä, että meillä on yhteisiä valmiuksia käyttää sanoja jotakuinkin samalla tavalla kuin muut ihmiset. Tälle toiminnalle ei ole käsitteellistä perustaa: käsite syntyy käytöstä, ei käyttö käsitteestä.

Tämä tarkoittaa erityisesti sitä, että sanojen käyttöä ei voi perustaa Locke’n ideoihin. Wittgensteinin tämän näkemyksen kumoaminen on yksi filosofian tuhoisimmista lyhyistä todistuksista. Hän esittää ensin ongelman siitä, miten joku voi ymmärtää käskyn tuoda punainen kukka niityltä: “Mistä hän tietää, millainen kukka hänen on tuotava, kun olen antanut hänelle vain sanan”? Yksi mahdollisuus on, että kuulija liittää sanan punainen johonkin ajatukseen (mielikuvaan punaisesta) ja etsii sitten kuvaa vastaavan kukan. Wittgenstein sanoo,

Mutta tämä ei ole ainoa tapa etsiä, eikä se ole tavanomainen tapa. Menemme, katselemme ympärillemme, kävelemme kukan luo ja poimimme sen vertaamatta sitä mihinkään. Nähdäksemme, että käskyn noudattamisen prosessi voi olla tämänkaltainen, tarkastellaan käskyä “kuvittele punainen laikku”. Teillä ei ole tässä tapauksessa houkutusta ajatella, että ennen tottelemista teidän on täytynyt kuvitella punainen laikku, jotta se palvelisi teitä mallina sille punaiselle laikulle, joka teidän käskettiin kuvitella.”

Wittgensteinin myöhäisen mestariteoksen Filosofiset tutkimukset (1953) kuuluisimmat kohdat pyrkivät purkamaan yksityisen kokemuksen käsitteen. Niiden tulkinta on loputtomasti kiistanalainen, mutta perusajatus on, että ajattelun kohteisiin ei voi sisältyä elementtejä, jotka ovat puhtaasti yksittäisen yksilön “yksityisiä” – kuten esimerkiksi aistimusten oletetaan olevan. Sillä jos ajatuksen kohteet olisivat yksityisiä, silloin ei voisi olla mitään eroa siinä, mitä ihminen sanoo omista ajatuksistaan, sen välillä, onko hän oikeassa vai näyttääkö hän vain olevan oikeassa. Ajattelun kohteiden on siis oltava pohjimmiltaan julkisia, tarkistettavissa olevia kohteita, joista voi periaatteessa keskustella muiden kanssa.

Wittgensteinin myöhemmässä filosofiassa eivät vain kokemus ja havainto vaan myös järki ja logiikka muuntaudu. Fregelle ja Russellille logiikan ja matematiikan propositiot ovat puhtaasti riippumattomia aistikokemuksesta, ja niiden totuus riippuu ainoastaan sen abstraktin maailman rakenteista, jota ne kuvaavat – maailman, joka on tullut ihmisen ulottuville puhtaan järjen valossa. Myöhemmin tämä näkemys vaarantui jonkin verran, kun loogiset positivistit rinnastivat logiikan ja matematiikan tautologiaan ja konventioihin. Myöhemmässä Wittgensteinissa koko ero loogisen ja empiirisen totuuden välillä muuttuu kuitenkin epäselväksi. Logiikka on esimerkiksi joukko käytäntöjä ja siten kieli, joka on täydellisesti kunnossa sellaisenaan; se, mikä logiikassa lasketaan termin oikeaksi soveltamiseksi tai sallituksi johtopäätökseksi, riippuu siis vain siitä, mitä loogikot tekevät. Kuten sanojen merkitysten kohdalla tavanomaisemmissa yhteyksissä, merkitystä on niiden vakiintuneilla dispositioilla, jotka käyttävät kyseistä kieltä. Koska nämä dispositiot voivat kuitenkin muuttua, merkitys ei ole – ainakaan periaatteessa – kiinteä ja muuttumaton. Yleistä kielenkäyttöä heijastavat säännöt, mukaan lukien jopa fysiikan perusperiaatteet ja itse logiikan lait, voivat muuttua, jos riittävän suuri osa kieliyhteisöstä alkaa käyttää vanhoja sanoja uusilla tavoilla. Turvallisimmat ja varmimmat totuudet voidaan johdonmukaisesti hylätä, koska niiden taustalla olevat säännöt ovat muuttuneet asianmukaisesti. Ei ole olemassa “korkeampia” sääntöjä, joiden perusteella näitä muutoksia voitaisiin arvioida.

Tässä kohtaa avautuu epämiellyttävä visio. Itse totuuden ajatus näyttää edellyttävän jonkinlaista käsitystä sanojen soveltamisen oikeellisuudesta. Jos virtahepoa kutsutaan lehmäksi, paitsi metaforisesti tai analogisesti, on oletettavasti tehty jotain väärin. Mutta jos sanan lehmä soveltamista koskeva sääntö on johdettu kokonaan kielellisestä käytännöstä, mikä tekisi tästä tapauksesta vain virheen eikä säännön muutosta – ja siten muutosta siinä, mitä sana lehmä tarkoittaa? Asianmukainen vastaus tähän kysymykseen näyttäisi edellyttävän jonkinlaista selvitystä siitä, mitä on se, että sääntö on “voimassa”. Wittgenstein esittää joissakin kohdissa, että tällä käsitteellä ei ole mitään sisältöä: normaaliaikana kaikki tanssivat tahdissa, ja siinä kaikki. Tämä ehdotus esitetään erityisen voimakkaasti Filosofisissa tutkimuksissa käytävässä keskustelussa sääntöjen noudattamisesta. On kuitenkin selvää, että Wittgenstein uskoi, että erehdyksen ja innovaation välillä voidaan tehdä ero.