[LO Calc] Error Code 538

[Harald Maedl]

Ich bekomme bei einer recht umfangreichen Tabellen mit ~20
Tabellenblättern (~20 MB)immer wieder den Error Ccode 538. Leider
scheint dieser Error Code nicht dokumentiert sein.
Den einzigen Hinweis zu diesem Code habe ich hier gefunden:
<https://ask.libreoffice.org/en/question/87744/libreoffice-calc-modesngl-err538/>

Allerdings nutze ich die Funktion mode.sngl nicht, sondern
Matrixfunktionen "Index" und "Vergleich" -- auch in Kombination mit
Wenn-Bedingungen.

Wenn ich das Blatt abspeicher und neu starte, ist der Fehler zwar weg
und die richtigen Ergebnisse werden angezeigt, jedoch erscheint er
wieder und zwar offenbar nach dem Zufallsprinzip in den verschiedensten
Zellen, sobald ich Eintragungen mache.
F9 hilft nicht, ebenso wenn ich mit F2 in die Zelle gehen und auf
Return.

Dem angeführten Link nach, scheint es bei zumindest der Funktion
mode.sngl dem Kommentar nach eine Begrenzung von 100.000 Werten zu
geben.

Sollte die Tabelle, die recht viele Tabellenblättern enthält, zu groß
sein, kann ich dann den Fehler, sofern dieser aus Größenrestriktionen
rührt, vermeiden, wenn ich die Tabellenblätter in eine oder mehr
Tabellen mit entsprechenden Verknüpfungen auslagere?

Bei Excel 2010 habe ich den Fehler nicht.

[Eike Rathke]

Post by Harald Maedl
Ich bekomme bei einer recht umfangreichen Tabellen mit ~20
Tabellenblättern (~20 MB)immer wieder den Error Ccode 538. Leider
scheint dieser Error Code nicht dokumentiert sein.

Err:538 bedeutet, dass eine Matrix/Array nicht alloziert werden konnte,
z.B. weil sie eine Groesse uebersteigt. Steht aber auch in der
Statuszeile wenn der Zell-Cursor auf einer solchen Zelle steht. Das
Limit liegt bei ca. (theoretischen) 80 Millionen Elementen.

Post by Harald Maedl
<https://ask.libreoffice.org/en/question/87744/libreoffice-calc-modesngl-err538/>

Hum.. in der Tat, da gibt es noch ein altes (oder besser uraltes..)
Limit von 100000 Elementen wenn intern sortiert werden muss, z.B. bei
einigen Statistik-Funktionen.

Zeit das zu aendern..

Post by Harald Maedl
Sollte die Tabelle, die recht viele Tabellenblättern enthält, zu groß
sein, kann ich dann den Fehler, sofern dieser aus Größenrestriktionen
rührt, vermeiden, wenn ich die Tabellenblätter in eine oder mehr
Tabellen mit entsprechenden Verknüpfungen auslagere?

Nein. Eher herausfinden (z.B. mit dem Detektiv) aus welcher Berechnung
der Fehler entsteht und probieren da was zu aendern.

Eike

[Harald Maedl]

Post by Eike Rathke

[Error Ccode 538 = ?]

Err:538 bedeutet, dass eine Matrix/Array nicht alloziert werden konnte,
z.B. weil sie eine Groesse uebersteigt. Steht aber auch in der
Statuszeile wenn der Zell-Cursor auf einer solchen Zelle steht. Das
Limit liegt bei ca. (theoretischen) 80 Millionen Elementen.

Thx, bei mir sind's grob geschätzt um die 3 Mio Zellen, wobei ich jetzt
nicht weiß, wie bzw wodurch ein Element als solches definiert ist. Die
Formeln sind bei mit teils recht lang und komplex.

Post by Eike Rathke

Sollte die Tabelle, die recht viele Tabellenblättern enthält, zu groß
sein, kann ich dann den Fehler, sofern dieser aus Größenrestriktionen
rührt, vermeiden, wenn ich die Tabellenblätter in eine oder mehr
Tabellen mit entsprechenden Verknüpfungen auslagere?

Nein. Eher herausfinden (z.B. mit dem Detektiv) aus welcher Berechnung
der Fehler entsteht und probieren da was zu aendern.

Tja, da habe ich bereits herumgepfriemelt und nichts gefunden. Da werde
ich mir wohl heute abend damit mal die Zeit totschlagen müssen.

[Siegfried Höfner]

Post by Harald Maedl
Thx, bei mir sind's grob geschätzt um die 3 Mio Zellen, wobei ich jetzt

Schau bei geöffnetem Dokument unter Datei/Eigenschaften/Statistik nach.
Dort steht die Anzahl Zellen.

Gruß Siegfried

Post by Harald Maedl
nicht weiß, wie bzw wodurch ein Element als solches definiert ist. Die
Formeln sind bei mit teils recht lang und komplex.

[Eike Rathke]

Post by Siegfried Höfner

Post by Harald Maedl
Thx, bei mir sind's grob geschätzt um die 3 Mio Zellen, wobei ich jetzt

Schau bei geöffnetem Dokument unter Datei/Eigenschaften/Statistik nach.
Dort steht die Anzahl Zellen.

Irrelevant. Die Anzahl belegter Zellen ist nicht ausschlaggebend.

Eike

[Eike Rathke]

Post by Harald Maedl

Post by Eike Rathke
Err:538 bedeutet, dass eine Matrix/Array nicht alloziert werden konnte,
z.B. weil sie eine Groesse uebersteigt. Steht aber auch in der
Statuszeile wenn der Zell-Cursor auf einer solchen Zelle steht. Das
Limit liegt bei ca. (theoretischen) 80 Millionen Elementen.

Thx, bei mir sind's grob geschätzt um die 3 Mio Zellen, wobei ich jetzt
nicht weiß, wie bzw wodurch ein Element als solches definiert ist. Die
Formeln sind bei mit teils recht lang und komplex.

Die interessante Variante sind wahrscheinlich die Formel-Funktionen, die
von mehr als 100000 zu sortierenden Elementen (Zellinhalte oder
temporaere Arrays) betroffen sind. Dies koennten sein:

FREQUENCY
MODE
MODE.MULT
MODE.SNGL
NETWORKDAYS
PERCENTRANK
RANK
TRIMMEAN
WORKDAY

Eike

[Eike Rathke]

Post by Eike Rathke
Formel-Funktionen, die
von mehr als 100000 zu sortierenden Elementen (Zellinhalte oder
temporaere Arrays) betroffen sind.

Das Limit wird in 6.1.2 auf 2 Millionen angehoben sein.

Eike