Anaksymander był pierwszym myślicielem, który wprowadził do słownika filozoficznego termin arche (łac. principium) w znaczeniu "początek", "zasada" - termin techniczny o dużym znaczeniu w filozofii greckiej. Chcąc zastąpić hipotezę swego poprzednika, Talesa, lepszą, argumentował, że żadna substancja znana nam z doświadczenia nie może być początkiem i zasadą wszechrzeczy, bo każda powstaje, zmienia się i ginie, a zatem żadnej nie można nazwać pierwotną. Rozglądając się po świecie, nigdzie nie znajdziemy takiej substancji, która by odpowiadała warunkom arche. Pierwotna substancja musi być nieskończona, bo z niej powstaje nieskończona rozmaitość rzeczy. I nie może być podobna do tych rzeczy, bo ma zawierać wszystkie, a nie być żadną z nich; nie będzie więc ani tworzywem stałym, ani płynnym, ani lotnym, ani ciepłym, ani zimnym; nie będzie przeto ani wodą, ani powietrzem. Musi być czymś, co nie posiada żadnych własności spośród tych, jakie przypisujemy przedmiotom otaczającego nas świata. Nie potrafimy w niej dostrzec żadnej własności, a więc będzie czymś nie określonym czasowo i przestrzennie, i jakościowo, będzie zatem jakimś apeiron - substancją nie określoną pod żadnym względem. Jest poza czasem i poza przestrzenią. Jest pierwotna, wszystko obejmuje i wszystkim rządzi. Jest niestworzona i niezniszczalna, nieśmiertelna, niewidzialna i nie starzejąca się (aidion kai agero). Z niej wszystko powstaje i do niej wraca. Ze wszystkich rzeczy arche nie może mieć swej arche, a co nie ma arche, czyli jest bez początku, nieskończone, jest tym samym apeiron (a - negacja, peras - kres, granica).

Apeiron jest substancją nieskończoną w sensie ilościowym, gdyż tego wymaga wieczne powstawanie; nie ma przerwy w powstawaniu. Jest niewyczerpalnym rezerwuarem i dlatego nieskończonym. "Nieskończona ciągłość powstawania nie wymaga bynajmniej - twierdzi Arystoteles - ciała postrzegalnego zmysłami, które by było nieskończone aktualnie. Wszak ginięcie czegoś może być równocześnie powstawaniem czegoś innego, przy czym całość zostaje ograniczona." Myśl Arystotelesa jest jasna. Proces powstawania i ginięcia jest kolisty. Ginięcie nie oznacza bynajmniej procesu unicestwienia, lecz przechodzenie w inną formę materii. Ów proces kolisty, nazwany przez Anaksymandra "niesprawiedliwością" i "zadośćuczynieniem", stanowi główny punkt jego teorii: "To, co jest początkiem istniejących rzeczy, to z konieczności stanie się ich zgubą. Ponoszą bowiem karę sprawiedliwą za niesprawiedliwość swoją w porządku czasu."

To dziwnie brzmiące zdanie ma bogatą literaturę. Wielu znawców filozofii przedsokratejskiej próbowało na różne sposoby zinterpretować myśl Anaksymandra i odczytać prawdziwy sens jego tajemniczej wypowiedzi. Wnikliwy badacz myśli greckiej, Werner Jaeger, napisał na ten temat następujące uwagi: "Od czasu Nietzschego i Erwina Rhodego wiele napisano o tym zdaniu i wiele przypisywano mu mistycznych znaczeń. Samo istnienie rzeczy, ich ujednostkowienie, miało być grzechem, niewiernością wobec wiecznej praprzyczyny i za tę niewierność stworzenia musiały ponieść karę. Odkąd jednak ustalono poprawny tekst (przez dodanie brakującego w starych wydaniach wyrazu allelois), powinno się już było wyjaśnić, że idzie tu o coś zupełnie innego, o wyrównanie skutków zachłanności (pleonexia) wśród rzeczy. Nieistnienie samo jest winą (byłoby to zresztą zupełnie niegreckie wyobrażenie), lecz Anaksymander wyobraża sobie konkretnie, że >>rzeczy<< toczą ze sobą spór, zupełnie jak ludzie przed sądem. Widzimy przed sobą jońską polis: oto rynek, na którym wymierza się sprawiedliwość, oto sędzia, który zasiada w trybunale i ustala (tattei) grzywnę. Ma on na imię Czas. Znamy go już z poglądów politycznych Solona: jego władzy nic się nie wymknie. Ilekolwiek jedna ze stron spierających się za dużo wzięła od drugiej, zostaje jej to niezwłocznie odebrane i zwrócone temu, który otrzymał za mało. Myśl Solona była następująca: Dike jest niezawisła od ludzkiej, ziemskiej sprawiedliwości, nie przychodzi też z zewnątrz jako doraźna interwencja karzącej sprawiedliwości bogów, jak to sobie ongiś wyobrażał Hezjod, lecz spełnia się immanentnie jako wyrównanie, które następuje bezwarunkowo - i właśnie ta jej nieuchronność jest karą >>Zeusa<< i >>pochodzącą od bogów odpłatą<<. Anaksymander idzie jeszcze dalej. On dostrzega to wieczne spełnianie się sprawiedliwości nie tylko w życiu ludzkim, ale w całym świecie, w kręgu wielkich spraw. Objawiająca się w sferze ludzkiej nieuchronność tej sprawiedliwości nasuwa mu myśl, że także porządek natury, jej siły i sprzeczności, równie jak ludzkie, podlegają jakiemuś immanentnemu prawu i że wedle niego dokonuje się ich wzrost i zanik."