Freges teori om mening, trods al sin sofistikering, var baseret på en utilfredsstillende redegørelse for tanker som abstrakte objekter. Tractatus behøvede ikke at beskæftige sig med et sådant problem, fordi den behandlede mening – og sprog i det hele taget – uafhængigt af de måder, hvorpå sproget faktisk bruges af mennesker. Mindre end 10 år efter værkets færdiggørelse kom Wittgenstein imidlertid til at mene, at denne dimension af sproget er af afgørende betydning. Uden en redegørelse for denne dimension, mente han nu, ville hele Tractatus’ system falde sammen som et korthus. I skrifter og undervisning fra 1930 og fremefter lagde han derfor vægt på sammenhængen mellem ord og praktiske menneskelige aktiviteter. Ordene bliver besjælet, eller får betydning, af sådanne aktiviteter – og kun af dem. I de mange små historier, der beskriver det, han kalder “sproglege”, forestillede Wittgenstein sig mennesker, der tæller, kalder efter værktøj, giver anvisninger osv. Ved at sammenligne et ords betydning med en brikkes styrke i skakspil insisterede han på, at det kun er i forbindelse med menneskelig aktivitet, at betydning eksisterer. Ved at opfatte sproget uafhængigt af dets brugere havde Tractatus derfor overset dets egentlige væsen. Det slogan, der følgelig forbindes med Wittgensteins senere arbejde, er, at “mening er brug”, selv om han selv aldrig udtrykte dette synspunkt i en så ukvalificeret form.

Et af Wittgensteins hovedtemaer er de sproglige dispositioners åbenhed eller åben-tekstuelle karakter. Selv om det især for filosoffer kan virke som om, at ordbrug er bestemt af anvendelsen af klare og bestemte regler – og at det at kende betydningen af et ord således er det samme som at kende den tilsvarende regel – viser en omhyggelig undersøgelse af faktiske talesituationer, at en enkelt regel i intet tilfælde kan redegøre for den utallige variation af anvendelser, som et enkelt ord kan anvendes til. Wittgenstein spørger f.eks. hvilken regel der kan forklare den store variation af ting, der kan kaldes et spil. Når man leder efter noget, som alle spil har til fælles, finder man kun “et kompliceret netværk af ligheder, der overlapper og krydser hinanden: nogle gange overordnede ligheder, andre gange ligheder i detaljer”. De forskellige spil synes kun at være forenet af en vag “familielignende lighed”. Brugen af ordet er derfor ikke bestemt af en kompliceret regel eller definition – selv hvis den anvendes ubevidst – men kun af en ret afslappet disposition til at inkludere nogle ting og udelukke andre. Hvis der overhovedet er tale om en regel, er det en triviel regel: man må kun kalde spil de ting, der er spil. Kendskab til ords betydning og medlemskab af det sproglige fællesskab generelt er således ikke et spørgsmål om at kende regler, men kun om at dele dispositioner til at anvende ord på en måde, der ligner den måde, som andre mennesker gør. Der er intet begrebsmæssigt grundlag for denne aktivitet: begrebet skabes af brugen, ikke brugen af begrebet.

Det betyder især, at ordbrug ikke kan være funderet i Lockeanske ideer. Wittgensteins gendrivelse af dette synspunkt er et af de mest ødelæggende korte beviser i filosofien. Han stiller først problemet om, hvordan nogen kan forstå ordren om at bringe en rød blomst fra en eng: “Hvordan skal han vide, hvilken slags blomst han skal bringe, når jeg kun har givet ham et ord?” En mulighed er, at tilhøreren forbinder ordet rødt med en idé (et mentalt billede af rødt) og derefter leder efter en blomst, der passer til dette billede. Wittgenstein siger,

Men dette er ikke den eneste måde at søge på, og det er ikke den sædvanlige måde. Vi går, ser os omkring, går hen til en blomst og plukker den, uden at sammenligne den med noget som helst. For at se, at processen med at adlyde en ordre kan være af denne art, kan vi overveje ordren “forestil dig en rød plet”. Du fristes i dette tilfælde ikke til at tænke, at du, før du adlyder, må have forestillet dig en rød plet, der kan tjene dig som mønster for den røde plet, som du blev beordret til at forestille dig.

De mest berømte passager i Wittgensteins sene mesterværk Philosophical Investigations (1953) forsøger at afmontere begrebet privat erfaring. Deres fortolkning er uendeligt kontroversiel, men den grundlæggende idé er, at tankeobjekter ikke kan indeholde elementer, der er rent “private” for et enkelt individ – sådan som for eksempel sansninger formodes at være det. For hvis der var private tankeobjekter, så kunne der ikke være nogen forskel i det, man siger om sine egne tanker, mellem at have ret og blot at synes at have ret. Tankeobjekter må derfor i det væsentlige være offentlige, kontrollerbare ting, som man i princippet kan konversere med andre om.

Nu er det ikke kun erfaring og iagttagelse, men også fornuft og logik, der bliver omformet i Wittgensteins senere filosofi. For Frege og Russell er logikkens og matematikkens sætninger fuldstændig uafhængige af sanseerfaring, idet deres sandhed kun afhænger af strukturerne i den abstrakte verden, som de beskriver – en verden, der er gjort tilgængelig for mennesker gennem den rene fornufts lys. Denne vision blev senere noget kompromitteret af de logiske positivisters assimilation af logikken og matematikken til tautologi og konventioner. Hos den senere Wittgenstein bliver hele sondringen mellem logisk og empirisk sandhed imidlertid uklar. Logikken er f.eks. en række praksisser og dermed et sprog, der er helt i orden, som det er; hvad der i logikken tæller som en korrekt anvendelse af et begreb eller en tilladt slutning, afhænger derfor kun af, hvad logikerne gør. Som det er tilfældet med ords betydning i mere almindelige sammenhænge, er det de faste dispositioner hos dem, der bruger det pågældende sprog, der er afgørende. Da disse dispositioner kan ændre sig, er betydningen imidlertid ikke – i det mindste ikke i princippet – fast og uforanderlig. De regler, der afspejler den almindelige sprogbrug, herunder selv grundlæggende fysiske principper og logikkens love, kan ændre sig, forudsat at en tilstrækkelig stor del af det relevante sproglige samfund begynder at bruge gamle ord på nye måder. De sikreste og mest sikre sandheder kan afvises på en sammenhængende måde, hvis de regler, der ligger til grund for dem, har ændret sig på passende vis. Der findes ingen “højere” regler, hvormed disse ændringer kan vurderes.

Der åbner sig en ubehagelig vision på dette punkt. Selve idéen om sandhed synes at forudsætte en vis forestilling om korrekthed i anvendelsen af ord. Hvis man kalder en flodhest for en ko, undtagen i metaforisk eller analogisk forstand, så har man formodentlig gjort noget forkert. Men hvis reglen for anvendelse af ordet ko udelukkende er afledt af sproglig praksis, hvad ville så gøre dette tilfælde til blot en fejl og ikke en ændring af reglen – og dermed en ændring af, hvad ordet ko betyder? Et fyldestgørende svar på dette spørgsmål synes at kræve en redegørelse for, hvad det er for en regel at være “i kraft”. Wittgenstein antyder i nogle passager, at der ikke er noget indhold i dette begreb: i normale tider danser alle i takt, og det er alt, hvad der er at sige til det. Dette forslag fremsættes med særlig styrke i diskussionen om regelopfølgning i Philosophical Investigations. Det er ikke desto mindre klart, at Wittgenstein mente, at man kunne skelne mellem fejl og nyskabelse.