Zum Hauptinhalt springen
Echtzeit-Radar & Feeds
Alle RSS Feeds ➔
👥 Community & Social
Windows Tipps & SecurityGrafikkarte vor Überhitzung schützen: So geht’s(25.09.2026 um 08:00 Uhr)
••••••••••
Windows Tipps & SecurityGrafikkarte vor Überhitzung schützen: So geht’s(25.09.2026 um 08:00 Uhr)
••••••••••
Intelligence View
⚡ tsecurity.de Intelligence

trunk/90cf0e1c95d98fa7b396c5fdf081464d1c4fa877: [Flex Attn][CPU] support flash decoding for cpu (#159835)

Description: Support flash decoding in CppFlexAttentionTemplate. We prefer to choose flash decoding instead of flash attention when query length is 1. For flash decoding, we add a kernel option PARTITION_SIZE to define the partition size…

0
↗ Quelle (github.com)
Reagiere als Erste:r — dein Feedback zählt!

Description:



  1. Support flash decoding in CppFlexAttentionTemplate. We prefer to choose flash decoding instead of flash attention when query length is 1.

  2. For flash decoding, we add a kernel option PARTITION_SIZE to define the partition size of doing the parallelism on KV length dimension. The default value is 128, which should be multiple of KV cache block size to use flash decoding.

  3. As mentioned in #158617, flex_attn UTs for the cpu backend are disabled because of the long duration. Here we re-enable them on CPU-only machines. (Already merged in #143553)


Performance:


Here are the E2E results for Llama3.1-8B decoding validated on a GNR machine with 6 NUMA nodes, where we can see E2E improvements from 114% to 121%.















































Data Type Input/Output tokens Batch Size W/O Flash Decoding (tokens/s) With Flash Decoding (tokens/s) Speedup
BF16 2016/32 25 892.196 1083.073 121.39%
FP16 2016/32 25 879.541 1015.593 115.47%
BF16 1024/128 30 1291.349 1529.251 118.42%
FP16 1024/128 30 1294.228 1473.049 113.82%

Pull Request resolved: #159835

Approved by: https://github.com/CaoE, https://github.com/mingfeima, https://github.com/jansel

1. Sofort-Triage & Abwehrmaßnahmen

SOC Incident Playbook: Vulnerability Remediation & Verification
Syntax validiert (0 Fehler)
title: Detect Exploitation - trunk/90cf0e1c95d98fa7b396c5fdf081464d1c4fa877: [Flex Attn][CPU] support flash decoding for cpu (#159835)
id: 4bd10753-7822-4e02-827a-b4c7a5aa956f
status: experimental
description: Automatisch generierte SIEM-Erkennungsregel basierend auf CTI Intelligence
references:
  - https://tsecurity.de/
author: iShareStuff CTI Automated Detection Engine
date: 2026-09-26
logsource:
  category: network_connection
  product: any
detection:
  selection:
      CommandLine|contains:
        - 'exploit'
  condition: selection
falsepositives:
  - Legitime administrative Zugriffe oder Penetrationstests
level: high
tags:
  - attack.initial_access
Syntax validiert (0 Fehler)
rule CTI_Threat_Indicator {
    meta:
        author = "iShareStuff CTI Automated Detection Engine"
        date = "2026-09-26"
        description = "YARA Signature for "
    strings:
        $str = "trunk/90cf0e1c95d98fa7b396c5fd" ascii wide
    condition:
        any of them
}
Syntax validiert (0 Fehler)
index=security sourcetype IN ("cisco:asa", "pan:traffic", "zeek_conn", "suricata", "WinEventLog:Security")
("trunk90cf0e1c95d98fa7b396c5fdf081464d1c4")
| stats count earliest(_time) as first_seen latest(_time) as last_seen by src_ip, dest_ip, dest_host, signature
| eval first_seen=strftime(first_seen, "%Y-%m-%d %H:%M:%S"), last_seen=strftime(last_seen, "%Y-%m-%d %H:%M:%S")
| sort - count
Syntax validiert (0 Fehler)
message: "*trunk90cf0e1c95d98fa7b396c5fdf081464d1c4*"
Syntax validiert (0 Fehler)
CommonSecurityLog
| where Message has "trunk90cf0e1c95d98fa7b396c5fdf081464d1c4"
| summarize EventCount = count(), FirstSeen = min(TimeGenerated), LastSeen = max(TimeGenerated) by SourceIP, DestinationIP, DestinationPort, Activity
| extend DetectionRule = "iShareStuff-CTI-Compiled"
| sort by EventCount desc

2. Cyber Threat Intelligence & Forensik

🎯
MITRE ATT&CK Matrix Navigator 14 Taktiken
Reconnaissance
-
Resource Development
-
Initial Access
Execution
Persistence
-
Privilege Escalation
Defense Evasion
Credential Access
-
Discovery
-
Lateral Movement
-
Collection
-
Command and Control
Exfiltration
-
Impact
tsecurity.de Cognitive Threat RAG
Fokus-Vektor:

Kognitive Analyse für identifizierte Bedrohung: Erhöhte Bedrohungslage im Bereich trunk/90cf0e1c95d98fa7b396c5fdf081464d1c.... Basierend auf 368k Vektor-Korrelationen werden sofortige Isolationsmaßnahmen für betroffene Endpunkte empfohlen.

🛡️ Angriffsfläche & Exposure

Netzwerk/Remote-Zugriff ohne Vorauthentifizierung möglich.

⚡ Empfohlene Sofortmaßnahmen
  • 1. Perimeter-Inspektion: Relevante Portfreigaben und exponierte Endpunkte unverzüglich scannen.
  • 2. Patch-Applikation: Hersteller-Hotfix einspielen oder betroffene Daemons in isolierte DMZ-Segmente überführen.
  • 3. Telemetrie & EDR-Alerts: Prozessaufrufe und Child-Processes auf anomale Shell-Spawns überwachen.
🔗 Semantisch verwandte Zero-Days MariaDB 11.7 VEC
Ähnliche Beiträge
🔍 Verwandte News

Auch interessante Nachrichten trunk/90cf0e1c95d98fa7b396c5fdf081464d1c4fa877: [Flex Attn][CPU] support flash decoding for cpu (#159835)

Thematisch verwandte Begriffe: trunk90cf0e1c95d98fa7b396c5fdf081464d1c4fa877, Flex, AttnCPU, support · 6 Treffer

Laden...

Beiträge werden geladen ...

Laden...

Videos werden geladen ...

Laden...

Beiträge werden geladen ...

Laden...

Videos werden geladen ...

Laden...

Beiträge werden geladen ...

Laden...

Videos werden geladen ...

Laden...

Beiträge werden geladen ...

Laden...

Videos werden geladen ...

Zum Aktualisieren ziehen
ZERO-DAY CVE-2026-100536 | OpenClaw versions before 2026.8.1 fail to validate all source fields in…
Advisory →
tsecurity.de Icon
Offline-Lesen, Eilmeldungen & 0ms Ladezeit

Installiere tsecurity.de direkt auf deinen Home-Bildschirm für das ultimative Vollbild-Magazinerlebnis ohne Browser-Leisten.

Nächster Beitrag