Frege jelentéselmélete, minden kifinomultsága ellenére, a gondolatok mint absztrakt objektumok nem kielégítő bemutatására támaszkodott. A Tractatusnak nem kellett ilyen problémával foglalkoznia, mert a jelentést – és a nyelvet összességében – az emberi nyelvhasználat tényleges módozataitól függetlenül kezelte. Kevesebb mint 10 évvel a mű befejezése után azonban Wittgenstein arra a meggyőződésre jutott, hogy a nyelvnek ez a dimenziója kiemelkedően fontos. Ennek némi számbavétele nélkül, gondolta most már, a Tractatus egész rendszere kártyavárként omlana össze. Ennek megfelelően 1930-tól kezdve írásaiban és tanításaiban a szavak és a gyakorlati emberi tevékenységek közötti összefüggéseket hangsúlyozta. A szavak az ilyen tevékenységek által – és csakis ezek által – elevenednek meg, illetve kapnak jelentést. Az általa “nyelvi játékoknak” nevezett dolgokat leíró kis történetek sokaságában Wittgenstein embereket képzelt el számolni, szerszámokat hívni, útbaigazítást adni és így tovább. Egy szó jelentését a sakkban egy bábu erejéhez hasonlította, és ragaszkodott ahhoz, hogy a jelentés csak az emberi tevékenység kontextusában létezik. Azzal tehát, hogy a Tractatus a nyelvet a használóitól elkülönítve képzelte el, figyelmen kívül hagyta a nyelv lényegét. Ennek megfelelően Wittgenstein későbbi munkásságához az a szlogen kapcsolódik, hogy “A jelentés a használat”, bár ő maga soha nem fogalmazta meg ezt a nézetet ilyen minősíthetetlen formában.

Wittgenstein egyik fő témája a nyelvi diszpozíciók nyitott vagy nyitott szövegű jellege. Bár úgy tűnhet, különösen a filozófusok számára, hogy a szóhasználatot határozott és határozott szabályok alkalmazása határozza meg – és így egy szó jelentésének ismerete azonos a megfelelő szabály ismeretével -, a tényleges beszédhelyzetek gondos vizsgálata azt mutatja, hogy egyetlen szabály semmiképpen sem képes magyarázatot adni arra a számtalanféle felhasználási módra, amelyre egy-egy szó felhasználható. Wittgenstein például azt kérdezi, hogy milyen szabály magyarázná azt a sokféle dolgot, amit játéknak nevezhetünk. Ha valami olyasmit keresünk, ami minden játékban közös, csak “egymást átfedő és keresztező hasonlóságok bonyolult hálózatát találjuk: néha általános hasonlóságokat, néha a részletek hasonlóságait”. A különböző játékokat látszólag csak egy homályos “családi hasonlóság” köti össze. A szó használatát tehát nem egy bonyolult szabály vagy definíció határozza meg – még ha öntudatlanul is alkalmazzuk -, hanem csupán egy meglehetősen laza hajlandóság arra, hogy bizonyos dolgokat bevonjunk, másokat pedig kizárjunk. Ha van egyáltalán valamilyen szabály, akkor az egy triviális szabály: csak azokat a dolgokat nevezzük játéknak, amelyek játékok. A szavak jelentésének ismerete és általában a nyelvi közösséghez való tartozás tehát nem a szabályok ismeretén múlik, hanem csupán a szavaknak a többi emberhez hasonló módon való alkalmazására vonatkozó közös hajlamon. Ennek a tevékenységnek nincs fogalmi alapja: a fogalmat a használat hozza létre, nem pedig a használatot a fogalom.”

Ez különösen azt jelenti, hogy a szóhasználatot nem lehet Locke-i eszmékkel megalapozni. Wittgenstein cáfolata erre a nézetre a filozófia egyik legpusztítóbb rövid bizonyítása. Először azt a problémát veti fel, hogyan értheti meg valaki azt a parancsot, hogy hozzon egy piros virágot a rétről: “Honnan tudja, hogy milyen virágot hozzon, hiszen én csak egy szót adtam neki”? Az egyik lehetőség az, hogy a hallgató a piros szóhoz egy elképzelést társít (egy mentális képet a pirosról), majd keres egy olyan virágot, amely megfelel ennek a képnek. Wittgenstein azt mondja,

De a keresésnek nem ez az egyetlen módja, és nem is ez a szokásos módja. Elmegyünk, körülnézünk, odasétálunk egy virághoz, és leszedjük, anélkül, hogy bármihez is hasonlítanánk. Hogy lássuk, hogy a parancsnak való engedelmeskedés folyamata lehet ilyen jellegű is, gondoljunk a “képzelj el egy piros foltot” parancsra. Ebben az esetben nem esünk kísértésbe arra gondolni, hogy mielőtt engedelmeskednénk, el kell képzelnünk egy piros foltot, hogy mintául szolgáljon a piros folthoz, amelyet a parancs szerint el kell képzelnünk.”

Wittgenstein kései remekművének, a Filozófiai vizsgálódásoknak (1953) leghíresebb passzusai a magántapasztalat fogalmát próbálják feloldani. Értelmezésük végtelenül ellentmondásos, de az alapgondolat az, hogy a gondolkodás tárgyai nem tartalmazhatnak olyan elemeket, amelyek tisztán “magánjellegűek” egyetlen egyén számára – ahogyan például az érzékelésekről feltételezik. Ha ugyanis léteznének privát gondolati tárgyak, akkor abban, amit valaki a saját gondolatairól mond, nem lehetne különbséget tenni aközött, hogy igaza van-e, vagy csupán annak látszik. A gondolkodás tárgyainak tehát lényegében nyilvános, ellenőrizhető tárgyaknak kell lenniük, amelyekről elvileg lehet másokkal beszélgetni.”

Wittgenstein későbbi filozófiájában nemcsak a tapasztalat és a megfigyelés, hanem az ész és a logika is átformálódik. Frege és Russell számára a logika és a matematika tételei eredendően függetlenek az érzéki tapasztalattól, igazságuk kizárólag az általuk leírt absztrakt világ struktúráitól függ – egy olyan világtól, amelyet a tiszta ész fénye tesz hozzáférhetővé az ember számára. Ezt az elképzelést később némileg kompromittálta, hogy a logikai pozitivisták a logikát és a matematikát a tautológiához és a konvenciókhoz hasonlították. A későbbi Wittgensteinnél azonban a logikai és az empirikus igazság közötti teljes különbségtétel elmosódik. A logika például gyakorlatok halmaza, tehát nyelv, amely úgy, ahogy van, tökéletesen rendben van; hogy a logikában mi számít egy kifejezés helyes alkalmazásának vagy megengedett következtetésnek, az tehát csak attól függ, hogy mit tesznek a logikusok. Akárcsak a szavak jelentéseinél a hétköznapibb kontextusokban, itt is azoknak a rendezett diszpozíciói számítanak, akik az adott nyelvet használják. Mivel azonban ezek a diszpozíciók változhatnak, a jelentés – legalábbis elvileg – nem rögzített és megváltoztathatatlan. A közös használatot tükröző szabályok, beleértve még az alapvető fizikai elveket és magukat a logika törvényeit is, változhatnak, feltéve, hogy az érintett nyelvi közösség elég nagy része elkezdi új módon használni a régi szavakat. A legbiztosabb és legbiztosabb igazságok is következetesen elvethetők, mivel az alapjául szolgáló szabályok megfelelően megváltoztak. Nincsenek “magasabb” szabályok, amelyek alapján ezeket a változásokat értékelni lehetne.”

Ezen a ponton egy kényelmetlen látomás nyílik meg. Úgy tűnik, hogy maga az igazság eszméje feltételez valamilyen fogalmat a szavak alkalmazásának helyességéről. Ha valaki egy vízilovat tehénnek nevez, kivéve metaforikusan vagy analógiásan, akkor feltehetően valamit rosszul értett el. De ha a tehén szó alkalmazására vonatkozó szabály teljes egészében a nyelvi gyakorlatból származik, akkor mi teszi ezt az esetet pusztán hibává, és nem a szabály megváltoztatásává – és így annak megváltoztatásává, amit a tehén szó jelent? Úgy tűnik, hogy erre a kérdésre adekvát válaszhoz szükség lenne arra, hogy számot adjunk arról, hogy mit jelent az, hogy egy szabály “érvényben van”. Wittgenstein néhány helyen azt sugallja, hogy ennek a fogalomnak nincs tartalma: normális időkben mindenki lépésben táncol, és ennyi az egész. Ez a felvetés különös erővel jelenik meg a Filozófiai vizsgálódásokban a szabálykövetésről szóló értekezésben. Mindazonáltal világos, hogy Wittgenstein úgy vélte, hogy a tévedés és az újítás között különbséget lehet tenni.