Ich habe nochmal kurz in Octane reingeschaut und konnte feststellen, dass das Material-Stacking in (mindestens) 4 verschiedenen Varianten möglich ist:
1. mittels des Mix-Materials. Das ist die ursprüngliche Version des Stackings in Octane und sollte immer gehen.
2. mittels eins Layered Material (so vorhanden), was ich persönlich nicht so gerne benutze, weil dafür interne Submaterialien angelegt werden und man seine bis dato angelegten, "normalen" Octane Materialien nicht nutzen kann.
3. mittels des Composite Materials (so vorhanden), das eine spätere, aber vereinfachte Version des Mix-Materials ist.
4. mittlerweile so wie in C4D Standard (soweit die aktuellste Octane-Version genutzt wird), das ist was ich oben gelöscht hatte ^^ nämlich rechts vom "unteren" Material ein "oberes" Material inklusive Alphamap abzulegen.
Wie gesagt, es ist u.a. eine Frage, welche Version von Octane Du nutzt. In einigen älteren sind einige der o.g. noch nicht vorhanden. Die o.g. Bezifferung bezeichnet übrigens m.W. auch die Reihenfolge, in der diese Methoden von aoktar in Octane eingepflegt worden sind. Kannst Du so was damit anfangen?
Warum Du jedoch manchmal das Problem hast und manchmal nicht, kann Dir nur jemand sagen, der Dir über längeren Zeitraum beim Arbeiten über die Schulter schaut. Selbst das hier ist erstmal nur blindes Tappern im Dunkeln.