larksr_websdk 3.2.30 → 3.2.34
This diff represents the content of publicly available package versions that have been released to one of the supported registries. The information contained in this diff is provided for informational purposes only and reflects changes between package versions as they appear in their respective public registries.
- package/dist/doc/functions.md +186 -0
- package/dist/doc/update.md +44 -0
- package/dist/larksr-web-sdk.min.js +1 -1
- package/dist/types/api.d.ts +2 -0
- package/dist/types/larksr.d.ts +165 -3
- package/package.json +1 -1
- package/types/api.d.ts +2 -0
- package/types/lark/application.d.ts +15 -1
- package/types/lark/peer_connection.d.ts +4 -1
- package/types/lark/recoder.d.ts +55 -0
- package/types/larksr.d.ts +165 -3
- package/types/operation/operation.d.ts +0 -1
- package/types/protobuf/cloudlark.d.ts +806 -2
package/dist/types/api.d.ts
CHANGED
|
@@ -76,6 +76,7 @@ export default class API {
|
|
|
76
76
|
static ClientLogErrorPath: string;
|
|
77
77
|
static GetStartInfoPath: string;
|
|
78
78
|
private static PocHostApplGetUrl;
|
|
79
|
+
private static TaskInfoClientStartedPath;
|
|
79
80
|
static HostAppliGetUrl(params: {
|
|
80
81
|
appliId: string;
|
|
81
82
|
playerMode?: number;
|
|
@@ -111,5 +112,6 @@ export default class API {
|
|
|
111
112
|
static GetTask(config: ILarkSRConfig, taskid: string): Promise<GetTaskResult>;
|
|
112
113
|
static LogError(errorCode: number, errorMsg: string, params: string, config: ILarkSRConfig): void;
|
|
113
114
|
static ClientInfo(config: ILarkSRConfig, params: AppliParams): void;
|
|
115
|
+
static TaskInfoClientStarted(config: ILarkSRConfig, params: AppliParams): void;
|
|
114
116
|
static joinParam(params: any): string;
|
|
115
117
|
}
|
package/dist/types/larksr.d.ts
CHANGED
|
@@ -4,7 +4,7 @@
|
|
|
4
4
|
*/
|
|
5
5
|
import { EventBase, LocalEvent } from './event/event_base';
|
|
6
6
|
import Application, { APP_STATE } from './lark/application';
|
|
7
|
-
import { AppliParams, AppliParamsUtils, LoadAppliParamsFromUrl, LoadAppliParamsStartAppInfo } from './appli_params';
|
|
7
|
+
import { AppliParams, AppliParamsUtils, IAppliParams, LoadAppliParamsFromUrl, LoadAppliParamsStartAppInfo } from './appli_params';
|
|
8
8
|
import { LarkEventType } from './lark/lark_event_type';
|
|
9
9
|
import API from './api';
|
|
10
10
|
import ScreenState from './screen_state';
|
|
@@ -161,7 +161,19 @@ declare enum LarkSRClientEvent {
|
|
|
161
161
|
/**
|
|
162
162
|
* 一般信息提示
|
|
163
163
|
*/
|
|
164
|
-
INFO = "info"
|
|
164
|
+
INFO = "info",
|
|
165
|
+
/**
|
|
166
|
+
* 语音对话的状态
|
|
167
|
+
*/
|
|
168
|
+
AI_VOICE_STATUS = "aivoicestatus",
|
|
169
|
+
/**
|
|
170
|
+
* 语音识别转文字的结果
|
|
171
|
+
*/
|
|
172
|
+
AI_VOICE_ASR_RESULT = "aivoiceasrresult",
|
|
173
|
+
/**
|
|
174
|
+
* 对话返回的结果
|
|
175
|
+
*/
|
|
176
|
+
AI_VOICE_DM_RESULT = "aivoicedmresult"
|
|
165
177
|
}
|
|
166
178
|
/**
|
|
167
179
|
* LarkSR 发出的事件
|
|
@@ -463,7 +475,7 @@ declare class LarkSR extends EventBase<LarkSRClientEvent, LarkSREvent> {
|
|
|
463
475
|
* 手动重设进入应用参数
|
|
464
476
|
* @param params
|
|
465
477
|
*/
|
|
466
|
-
|
|
478
|
+
setAppliParams(params: IAppliParams): void;
|
|
467
479
|
/**
|
|
468
480
|
* 开始云渲染流程
|
|
469
481
|
* 启动时应用参数不能为空,包括 taskID,appServer,appPort
|
|
@@ -492,6 +504,24 @@ declare class LarkSR extends EventBase<LarkSRClientEvent, LarkSREvent> {
|
|
|
492
504
|
* @param text 文字
|
|
493
505
|
*/
|
|
494
506
|
inputText(text: string): void;
|
|
507
|
+
/**
|
|
508
|
+
* 开始智能语音对话文本输入
|
|
509
|
+
* 应在只能语音为开始状态下开始输入
|
|
510
|
+
* @param text 输入的文本
|
|
511
|
+
* @returns 返回对话 ID
|
|
512
|
+
*/
|
|
513
|
+
aiDmTextInput(text: string): number;
|
|
514
|
+
/**
|
|
515
|
+
* 开始智能语音对话语音输入,自动请求录音权限
|
|
516
|
+
* 应在只能语音为开始状态下开始输入
|
|
517
|
+
* @returns 成功返回对话id,失败返回异常
|
|
518
|
+
*/
|
|
519
|
+
startAiDmVoiceInput(): Promise<number>;
|
|
520
|
+
/**
|
|
521
|
+
* 停止智能语音输入,通知语音引擎当前用户输入对话结束
|
|
522
|
+
* @returns 返回当前对话的id
|
|
523
|
+
*/
|
|
524
|
+
stopAiDmVoiceInput(): number;
|
|
495
525
|
/**
|
|
496
526
|
* 发送文字消息给数据通道
|
|
497
527
|
* 注意 云端应用要继承数据通道功能
|
|
@@ -526,23 +556,155 @@ declare class LarkSR extends EventBase<LarkSRClientEvent, LarkSREvent> {
|
|
|
526
556
|
/**
|
|
527
557
|
* 操作相关事件
|
|
528
558
|
* 所有事件坐标相对于云端应用,不相对于网页
|
|
559
|
+
* CloudLark.IClientInput 是所有操作指令接口对象的合集
|
|
560
|
+
* 可以单独使用下面 moseMove 等接口
|
|
529
561
|
* @param input 操作指令
|
|
530
562
|
*/
|
|
531
563
|
sendInput(input: CloudLark.IClientInput): void;
|
|
564
|
+
/**
|
|
565
|
+
* 向云端发送鼠标移动事件
|
|
566
|
+
* 事件坐标相对于云端应用,不相对于网页
|
|
567
|
+
* 计算方式可以参考 https://github.com/pingxingyun/lark_sr_websdk_demos 例子中 v_cursor.vue getVMouseTouchPosition 方法
|
|
568
|
+
* 原理是通过 LarkSR 对象的成员 screenState.operateScale 获取相对的缩放,
|
|
569
|
+
* 本地坐标 X larksr.screenState.operateScale.scaleX / scaleY 即可得到相对云端的坐标
|
|
570
|
+
*
|
|
571
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
572
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
573
|
+
* @param DeltaX 相对云端鼠标 X 轴移动距离
|
|
574
|
+
* @param DeltaY 相对云端鼠标 X 轴移动距离
|
|
575
|
+
*/
|
|
576
|
+
mouseMove(PosX: number, PosY: number, DeltaX: number, DeltaY: number): void;
|
|
577
|
+
/**
|
|
578
|
+
* 向云端发送鼠标移动事件
|
|
579
|
+
* 事件坐标相对于云端应用,不相对于网页
|
|
580
|
+
* 计算方式可以参考 https://github.com/pingxingyun/lark_sr_websdk_demos 例子中 v_cursor.vue getVMouseTouchPosition 方法
|
|
581
|
+
* 原理是通过 LarkSR 对象的成员 screenState.operateScale 获取相对的缩放,
|
|
582
|
+
* 本地坐标 X larksr.screenState.operateScale.scaleX / scaleY 即可得到相对云端的坐标
|
|
583
|
+
*
|
|
584
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
585
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
586
|
+
* @param DeltaX 相对云端鼠标 X 轴移动距离
|
|
587
|
+
* @param DeltaY 相对云端鼠标 X 轴移动距离
|
|
588
|
+
*/
|
|
532
589
|
moseMove(PosX: number, PosY: number, DeltaX: number, DeltaY: number): void;
|
|
590
|
+
/**
|
|
591
|
+
* 向云端发送鼠标单击事件
|
|
592
|
+
* X Y 坐标计算方式同 mouseMove
|
|
593
|
+
*
|
|
594
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
595
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
596
|
+
* @param key LEFT = 0,RIGHT = 1, MIDDLE = 2
|
|
597
|
+
*/
|
|
533
598
|
mouseTap(PosX: number, PosY: number, key: CloudLark.MouseKey): void;
|
|
599
|
+
/**
|
|
600
|
+
* 向云端发送鼠标按下事件
|
|
601
|
+
* X Y 坐标计算方式同 mouseMove
|
|
602
|
+
*
|
|
603
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
604
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
605
|
+
* @param key LEFT = 0,RIGHT = 1, MIDDLE = 2
|
|
606
|
+
*/
|
|
534
607
|
mouseDown(PosX: number, PosY: number, key: CloudLark.MouseKey): void;
|
|
608
|
+
/**
|
|
609
|
+
* 向云端发送鼠标抬起事件
|
|
610
|
+
* X Y 坐标计算方式同 mouseMove
|
|
611
|
+
*
|
|
612
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
613
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
614
|
+
* @param key LEFT = 0,RIGHT = 1, MIDDLE = 2
|
|
615
|
+
*/
|
|
535
616
|
mouseUp(PosX: number, PosY: number, key: CloudLark.MouseKey): void;
|
|
617
|
+
/**
|
|
618
|
+
* 向云端发送鼠标滚轮事件
|
|
619
|
+
* X Y 坐标计算方式同 mouseMove
|
|
620
|
+
*
|
|
621
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
622
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
623
|
+
* @param Delata 120/-120 鼠标滚轮滚动的数值
|
|
624
|
+
*/
|
|
536
625
|
mouseWheel(PosX: number, PosY: number, Delata: number): void;
|
|
626
|
+
/**
|
|
627
|
+
* 向云端发送键盘按键按下事件
|
|
628
|
+
* @param key KeyboardEvent.code 字段,具体内容参考 Chrome https://developer.mozilla.org/en-US/docs/Web/API/KeyboardEvent/code/code_values
|
|
629
|
+
* @param isRepeat KeyboardEvent.repeat 字段,参考https://developer.mozilla.org/en-US/docs/Web/API/KeyboardEvent/repeat
|
|
630
|
+
* @returns 是否发送成功,如果key参数传递错误可能发送失败
|
|
631
|
+
*/
|
|
537
632
|
keyDown(key: string, isRepeat: boolean): void;
|
|
633
|
+
/**
|
|
634
|
+
* 向云端发送键盘按键抬起事件
|
|
635
|
+
* @param key KeyboardEvent.code 字段,具体内容参考 Chrome https://developer.mozilla.org/en-US/docs/Web/API/KeyboardEvent/code/code_values
|
|
636
|
+
* @returns 是否发送成功,如果key参数传递错误可能发送失败
|
|
637
|
+
*/
|
|
538
638
|
keyUp(key: string): void;
|
|
639
|
+
/**
|
|
640
|
+
* 向云端发送手柄按钮按下事件
|
|
641
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
642
|
+
* @param userIndex 手柄的索引
|
|
643
|
+
* @param button 按鍵
|
|
644
|
+
* @param isRepeat 是否重复按下
|
|
645
|
+
* @returns
|
|
646
|
+
*/
|
|
539
647
|
gamepadButtonDown(userIndex: number, button: number, isRepeat: boolean): void;
|
|
648
|
+
/**
|
|
649
|
+
* 向云端发送手柄按钮抬起事件
|
|
650
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
651
|
+
* @param userIndex 手柄的索引
|
|
652
|
+
* @param button 按鍵
|
|
653
|
+
* @returns
|
|
654
|
+
*/
|
|
540
655
|
gamepadButtonUp(userIndex: number, button: number): void;
|
|
656
|
+
/**
|
|
657
|
+
* 向云端发送手柄按trigger键事件
|
|
658
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
659
|
+
* @param userIndex 手柄的索引
|
|
660
|
+
* @param isleft 是否是左trigger
|
|
661
|
+
* @param value trigger的值
|
|
662
|
+
* @returns
|
|
663
|
+
*/
|
|
541
664
|
gamepadTrigger(userIndex: number, isleft: boolean, value: number): void;
|
|
665
|
+
/**
|
|
666
|
+
* 向云端发送手柄按摇杆的值,即 axes 值
|
|
667
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
668
|
+
* @param userIndex 手柄的索引
|
|
669
|
+
* @param thumblx 手柄摇杆的x轴坐标
|
|
670
|
+
* @param thumbly 手柄摇杆的y轴坐标
|
|
671
|
+
* @param thumbrx 手柄摇杆的x轴相对坐标
|
|
672
|
+
* @param thumbry 手柄摇杆的y轴相对坐标
|
|
673
|
+
* @returns
|
|
674
|
+
*/
|
|
542
675
|
joystick(userIndex: number, thumblx: number, thumbly: number, thumbrx: number, thumbry: number): void;
|
|
676
|
+
/**
|
|
677
|
+
* 向云端发送触摸按下事件
|
|
678
|
+
* 坐标位置与 mouseMove 相同,相对与云端的鼠标移动位置
|
|
679
|
+
* @param id 手指的id
|
|
680
|
+
* @param x 相对云端的x轴坐标
|
|
681
|
+
* @param y 相对云端的y轴坐标
|
|
682
|
+
* @returns
|
|
683
|
+
*/
|
|
543
684
|
touchDown(id: number, x: number, y: number): void;
|
|
685
|
+
/**
|
|
686
|
+
* 向云端发送触摸移动事件
|
|
687
|
+
* 坐标位置与 mouseMove 相同,相对与云端的鼠标移动位置
|
|
688
|
+
* @param id 手指的id
|
|
689
|
+
* @param x 相对云端的x轴坐标
|
|
690
|
+
* @param y 相对云端的y轴坐标
|
|
691
|
+
* @returns
|
|
692
|
+
*/
|
|
544
693
|
touchMove(id: number, x: number, y: number): void;
|
|
694
|
+
/**
|
|
695
|
+
* 向云端发送触摸抬起事件
|
|
696
|
+
* 坐标位置与 mouseMove 相同,相对与云端的鼠标移动位置
|
|
697
|
+
* @param id 手指的id
|
|
698
|
+
* @param x 相对云端的x轴坐标
|
|
699
|
+
* @param y 相对云端的y轴坐标
|
|
700
|
+
* @returns
|
|
701
|
+
*/
|
|
545
702
|
touchUp(id: number, x: number, y: number): void;
|
|
703
|
+
/**
|
|
704
|
+
* 字符串转换为输入的鼠标按键值
|
|
705
|
+
* @param button 'left' | 'mid' | 'right'
|
|
706
|
+
* @returns LEFT = 0,RIGHT = 1,MIDDLE = 2
|
|
707
|
+
*/
|
|
546
708
|
getMouseButtonType(button: 'left' | 'mid' | 'right'): CloudLark.MouseKey;
|
|
547
709
|
$emit(type: LarkEventType, data?: any, message?: string): void;
|
|
548
710
|
$emitError(message?: string, code?: number): void;
|
package/package.json
CHANGED
|
@@ -1,6 +1,6 @@
|
|
|
1
1
|
{
|
|
2
2
|
"name": "larksr_websdk",
|
|
3
|
-
"version": "3.2.
|
|
3
|
+
"version": "3.2.34",
|
|
4
4
|
"description": "Larksr websdk. Easy to build a cloud render client for larksr system or ue4 pixelstreaming.docs: https://pingxingyun.github.io/webclient_sdk/",
|
|
5
5
|
"keywords": [
|
|
6
6
|
"pingxingyun",
|
package/types/api.d.ts
CHANGED
|
@@ -76,6 +76,7 @@ export default class API {
|
|
|
76
76
|
static ClientLogErrorPath: string;
|
|
77
77
|
static GetStartInfoPath: string;
|
|
78
78
|
private static PocHostApplGetUrl;
|
|
79
|
+
private static TaskInfoClientStartedPath;
|
|
79
80
|
static HostAppliGetUrl(params: {
|
|
80
81
|
appliId: string;
|
|
81
82
|
playerMode?: number;
|
|
@@ -111,5 +112,6 @@ export default class API {
|
|
|
111
112
|
static GetTask(config: ILarkSRConfig, taskid: string): Promise<GetTaskResult>;
|
|
112
113
|
static LogError(errorCode: number, errorMsg: string, params: string, config: ILarkSRConfig): void;
|
|
113
114
|
static ClientInfo(config: ILarkSRConfig, params: AppliParams): void;
|
|
115
|
+
static TaskInfoClientStarted(config: ILarkSRConfig, params: AppliParams): void;
|
|
114
116
|
static joinParam(params: any): string;
|
|
115
117
|
}
|
|
@@ -4,6 +4,7 @@ import WebSocektChannel from './websocket_channel';
|
|
|
4
4
|
import WebsocketProxy from './websocket_proxy';
|
|
5
5
|
import { LarkSR } from '../larksr';
|
|
6
6
|
import PixelStreamingWebsocketChannel from './test_pixel_streaming';
|
|
7
|
+
import { RECORDER_STATE } from './recoder';
|
|
7
8
|
export declare enum APP_STATE {
|
|
8
9
|
BEFORE_CREATE = 0,
|
|
9
10
|
INITED = 1,
|
|
@@ -37,7 +38,10 @@ export declare enum APP_EVENT_TYPE {
|
|
|
37
38
|
LK_DATA_CHANNEL_RENDERSERVER_TEXT_MESSAGE = 14,
|
|
38
39
|
LK_DATA_CHANNEL_RENDERSERVER_BINARY_MESSAGE = 15,
|
|
39
40
|
LK_DATA_CHANNEL_RENDERSERVER_OPEN = 16,
|
|
40
|
-
LK_DATA_CHANNEL_RENDERSERVER_CLOSE = 17
|
|
41
|
+
LK_DATA_CHANNEL_RENDERSERVER_CLOSE = 17,
|
|
42
|
+
AI_VOICE_STATUS = 18,
|
|
43
|
+
AI_VOICE_ASR_RESULT = 19,
|
|
44
|
+
AI_VOICE_DM_RESULT = 20
|
|
41
45
|
}
|
|
42
46
|
export interface AppEvent extends LocalEvent<APP_EVENT_TYPE> {
|
|
43
47
|
data?: any;
|
|
@@ -53,6 +57,9 @@ export default class Application extends EventBase<APP_EVENT_TYPE, AppEvent> {
|
|
|
53
57
|
private _state;
|
|
54
58
|
private retryTime;
|
|
55
59
|
private larksr;
|
|
60
|
+
get voiceId(): number;
|
|
61
|
+
get recodeState(): RECORDER_STATE;
|
|
62
|
+
private recoder;
|
|
56
63
|
constructor(larksr: LarkSR);
|
|
57
64
|
init(): void;
|
|
58
65
|
initPc(): void;
|
|
@@ -62,6 +69,10 @@ export default class Application extends EventBase<APP_EVENT_TYPE, AppEvent> {
|
|
|
62
69
|
inputText(text: string): void;
|
|
63
70
|
sendTextToDataChannel(text: string): void;
|
|
64
71
|
sendBinaryToDataChannel(binary: Uint8Array): void;
|
|
72
|
+
aiDmTextInput(text: string): number;
|
|
73
|
+
startAiDmVoiceInput(): Promise<number>;
|
|
74
|
+
stopAiDmVoiceInput(): number;
|
|
75
|
+
private onRecoderData;
|
|
65
76
|
start(): Promise<void>;
|
|
66
77
|
connect(): Promise<PixelStreamingWebsocketChannel> | Promise<WebsocketProxy> | Promise<WebSocektChannel> | undefined;
|
|
67
78
|
disConnect(): void;
|
|
@@ -113,6 +124,9 @@ export default class Application extends EventBase<APP_EVENT_TYPE, AppEvent> {
|
|
|
113
124
|
private onDataChannelOpen;
|
|
114
125
|
private onDataChannelClose;
|
|
115
126
|
private onPeerConnectionState;
|
|
127
|
+
private onAiVoiceStatus;
|
|
128
|
+
private onAiVoiceAsrResult;
|
|
129
|
+
private onAiVoiceDMResult;
|
|
116
130
|
appStateChange(state: APP_STATE): void;
|
|
117
131
|
private infoMsg;
|
|
118
132
|
private errorMsg;
|
|
@@ -25,7 +25,10 @@ export declare enum WEBRTC_EVENT_TYPE {
|
|
|
25
25
|
BAD_NETWORK = 14,
|
|
26
26
|
ERROR = 15,
|
|
27
27
|
RTC_SDP = 16,
|
|
28
|
-
RTC_ICECANDIDATE = 17
|
|
28
|
+
RTC_ICECANDIDATE = 17,
|
|
29
|
+
AI_VOICE_STATUS = 18,
|
|
30
|
+
AI_VOICE_ASR_RESULT = 19,
|
|
31
|
+
AI_VOICE_DM_RESULT = 20
|
|
29
32
|
}
|
|
30
33
|
export interface GoogleBitRate {
|
|
31
34
|
start: number;
|
|
@@ -0,0 +1,55 @@
|
|
|
1
|
+
import { EventBase, LocalEvent } from '../event/event_base';
|
|
2
|
+
export declare enum RECORDER_STATE {
|
|
3
|
+
READY = 0,
|
|
4
|
+
RECORDING = 1
|
|
5
|
+
}
|
|
6
|
+
export declare const RECODER_DEFAULT_CONFIG: {
|
|
7
|
+
sampleRate: number;
|
|
8
|
+
sampleBits: number;
|
|
9
|
+
bufferSize: number;
|
|
10
|
+
};
|
|
11
|
+
/**
|
|
12
|
+
* LarkSR 实例会发出的事件
|
|
13
|
+
*/
|
|
14
|
+
export declare enum RecodeEventType {
|
|
15
|
+
DATA = 0
|
|
16
|
+
}
|
|
17
|
+
/**
|
|
18
|
+
* LarkSR 发出的事件
|
|
19
|
+
*/
|
|
20
|
+
export interface RecodeEvent extends LocalEvent<RecodeEventType> {
|
|
21
|
+
voiceId: number;
|
|
22
|
+
sliceId: number;
|
|
23
|
+
data: Uint8Array;
|
|
24
|
+
}
|
|
25
|
+
export default class Recorder extends EventBase<RecodeEventType, RecodeEvent> {
|
|
26
|
+
get state(): RECORDER_STATE;
|
|
27
|
+
private _state;
|
|
28
|
+
private ctx;
|
|
29
|
+
private sampleRate;
|
|
30
|
+
private sampleBits;
|
|
31
|
+
private recorder;
|
|
32
|
+
private source;
|
|
33
|
+
private stream;
|
|
34
|
+
private buffer;
|
|
35
|
+
private bufferSize;
|
|
36
|
+
get voiceId(): number;
|
|
37
|
+
updateVoiceId(): number;
|
|
38
|
+
private _voiceId;
|
|
39
|
+
constructor({ bufferSize, sampleRate, sampleBits, }?: {
|
|
40
|
+
sampleRate: number;
|
|
41
|
+
sampleBits: number;
|
|
42
|
+
bufferSize: number;
|
|
43
|
+
});
|
|
44
|
+
start(): Promise<number>;
|
|
45
|
+
pause(): void;
|
|
46
|
+
clear(): void;
|
|
47
|
+
/**
|
|
48
|
+
* @deprecated
|
|
49
|
+
* @returns
|
|
50
|
+
*/
|
|
51
|
+
private getRecord;
|
|
52
|
+
private merge;
|
|
53
|
+
private compress;
|
|
54
|
+
private encodeToPCM;
|
|
55
|
+
}
|
package/types/larksr.d.ts
CHANGED
|
@@ -4,7 +4,7 @@
|
|
|
4
4
|
*/
|
|
5
5
|
import { EventBase, LocalEvent } from './event/event_base';
|
|
6
6
|
import Application, { APP_STATE } from './lark/application';
|
|
7
|
-
import { AppliParams, AppliParamsUtils, LoadAppliParamsFromUrl, LoadAppliParamsStartAppInfo } from './appli_params';
|
|
7
|
+
import { AppliParams, AppliParamsUtils, IAppliParams, LoadAppliParamsFromUrl, LoadAppliParamsStartAppInfo } from './appli_params';
|
|
8
8
|
import { LarkEventType } from './lark/lark_event_type';
|
|
9
9
|
import API from './api';
|
|
10
10
|
import ScreenState from './screen_state';
|
|
@@ -161,7 +161,19 @@ declare enum LarkSRClientEvent {
|
|
|
161
161
|
/**
|
|
162
162
|
* 一般信息提示
|
|
163
163
|
*/
|
|
164
|
-
INFO = "info"
|
|
164
|
+
INFO = "info",
|
|
165
|
+
/**
|
|
166
|
+
* 语音对话的状态
|
|
167
|
+
*/
|
|
168
|
+
AI_VOICE_STATUS = "aivoicestatus",
|
|
169
|
+
/**
|
|
170
|
+
* 语音识别转文字的结果
|
|
171
|
+
*/
|
|
172
|
+
AI_VOICE_ASR_RESULT = "aivoiceasrresult",
|
|
173
|
+
/**
|
|
174
|
+
* 对话返回的结果
|
|
175
|
+
*/
|
|
176
|
+
AI_VOICE_DM_RESULT = "aivoicedmresult"
|
|
165
177
|
}
|
|
166
178
|
/**
|
|
167
179
|
* LarkSR 发出的事件
|
|
@@ -463,7 +475,7 @@ declare class LarkSR extends EventBase<LarkSRClientEvent, LarkSREvent> {
|
|
|
463
475
|
* 手动重设进入应用参数
|
|
464
476
|
* @param params
|
|
465
477
|
*/
|
|
466
|
-
|
|
478
|
+
setAppliParams(params: IAppliParams): void;
|
|
467
479
|
/**
|
|
468
480
|
* 开始云渲染流程
|
|
469
481
|
* 启动时应用参数不能为空,包括 taskID,appServer,appPort
|
|
@@ -492,6 +504,24 @@ declare class LarkSR extends EventBase<LarkSRClientEvent, LarkSREvent> {
|
|
|
492
504
|
* @param text 文字
|
|
493
505
|
*/
|
|
494
506
|
inputText(text: string): void;
|
|
507
|
+
/**
|
|
508
|
+
* 开始智能语音对话文本输入
|
|
509
|
+
* 应在只能语音为开始状态下开始输入
|
|
510
|
+
* @param text 输入的文本
|
|
511
|
+
* @returns 返回对话 ID
|
|
512
|
+
*/
|
|
513
|
+
aiDmTextInput(text: string): number;
|
|
514
|
+
/**
|
|
515
|
+
* 开始智能语音对话语音输入,自动请求录音权限
|
|
516
|
+
* 应在只能语音为开始状态下开始输入
|
|
517
|
+
* @returns 成功返回对话id,失败返回异常
|
|
518
|
+
*/
|
|
519
|
+
startAiDmVoiceInput(): Promise<number>;
|
|
520
|
+
/**
|
|
521
|
+
* 停止智能语音输入,通知语音引擎当前用户输入对话结束
|
|
522
|
+
* @returns 返回当前对话的id
|
|
523
|
+
*/
|
|
524
|
+
stopAiDmVoiceInput(): number;
|
|
495
525
|
/**
|
|
496
526
|
* 发送文字消息给数据通道
|
|
497
527
|
* 注意 云端应用要继承数据通道功能
|
|
@@ -526,23 +556,155 @@ declare class LarkSR extends EventBase<LarkSRClientEvent, LarkSREvent> {
|
|
|
526
556
|
/**
|
|
527
557
|
* 操作相关事件
|
|
528
558
|
* 所有事件坐标相对于云端应用,不相对于网页
|
|
559
|
+
* CloudLark.IClientInput 是所有操作指令接口对象的合集
|
|
560
|
+
* 可以单独使用下面 moseMove 等接口
|
|
529
561
|
* @param input 操作指令
|
|
530
562
|
*/
|
|
531
563
|
sendInput(input: CloudLark.IClientInput): void;
|
|
564
|
+
/**
|
|
565
|
+
* 向云端发送鼠标移动事件
|
|
566
|
+
* 事件坐标相对于云端应用,不相对于网页
|
|
567
|
+
* 计算方式可以参考 https://github.com/pingxingyun/lark_sr_websdk_demos 例子中 v_cursor.vue getVMouseTouchPosition 方法
|
|
568
|
+
* 原理是通过 LarkSR 对象的成员 screenState.operateScale 获取相对的缩放,
|
|
569
|
+
* 本地坐标 X larksr.screenState.operateScale.scaleX / scaleY 即可得到相对云端的坐标
|
|
570
|
+
*
|
|
571
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
572
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
573
|
+
* @param DeltaX 相对云端鼠标 X 轴移动距离
|
|
574
|
+
* @param DeltaY 相对云端鼠标 X 轴移动距离
|
|
575
|
+
*/
|
|
576
|
+
mouseMove(PosX: number, PosY: number, DeltaX: number, DeltaY: number): void;
|
|
577
|
+
/**
|
|
578
|
+
* 向云端发送鼠标移动事件
|
|
579
|
+
* 事件坐标相对于云端应用,不相对于网页
|
|
580
|
+
* 计算方式可以参考 https://github.com/pingxingyun/lark_sr_websdk_demos 例子中 v_cursor.vue getVMouseTouchPosition 方法
|
|
581
|
+
* 原理是通过 LarkSR 对象的成员 screenState.operateScale 获取相对的缩放,
|
|
582
|
+
* 本地坐标 X larksr.screenState.operateScale.scaleX / scaleY 即可得到相对云端的坐标
|
|
583
|
+
*
|
|
584
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
585
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
586
|
+
* @param DeltaX 相对云端鼠标 X 轴移动距离
|
|
587
|
+
* @param DeltaY 相对云端鼠标 X 轴移动距离
|
|
588
|
+
*/
|
|
532
589
|
moseMove(PosX: number, PosY: number, DeltaX: number, DeltaY: number): void;
|
|
590
|
+
/**
|
|
591
|
+
* 向云端发送鼠标单击事件
|
|
592
|
+
* X Y 坐标计算方式同 mouseMove
|
|
593
|
+
*
|
|
594
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
595
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
596
|
+
* @param key LEFT = 0,RIGHT = 1, MIDDLE = 2
|
|
597
|
+
*/
|
|
533
598
|
mouseTap(PosX: number, PosY: number, key: CloudLark.MouseKey): void;
|
|
599
|
+
/**
|
|
600
|
+
* 向云端发送鼠标按下事件
|
|
601
|
+
* X Y 坐标计算方式同 mouseMove
|
|
602
|
+
*
|
|
603
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
604
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
605
|
+
* @param key LEFT = 0,RIGHT = 1, MIDDLE = 2
|
|
606
|
+
*/
|
|
534
607
|
mouseDown(PosX: number, PosY: number, key: CloudLark.MouseKey): void;
|
|
608
|
+
/**
|
|
609
|
+
* 向云端发送鼠标抬起事件
|
|
610
|
+
* X Y 坐标计算方式同 mouseMove
|
|
611
|
+
*
|
|
612
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
613
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
614
|
+
* @param key LEFT = 0,RIGHT = 1, MIDDLE = 2
|
|
615
|
+
*/
|
|
535
616
|
mouseUp(PosX: number, PosY: number, key: CloudLark.MouseKey): void;
|
|
617
|
+
/**
|
|
618
|
+
* 向云端发送鼠标滚轮事件
|
|
619
|
+
* X Y 坐标计算方式同 mouseMove
|
|
620
|
+
*
|
|
621
|
+
* @param PosX 相对云端鼠标 X 点坐标
|
|
622
|
+
* @param PosY 相对云端鼠标 Y 点坐标
|
|
623
|
+
* @param Delata 120/-120 鼠标滚轮滚动的数值
|
|
624
|
+
*/
|
|
536
625
|
mouseWheel(PosX: number, PosY: number, Delata: number): void;
|
|
626
|
+
/**
|
|
627
|
+
* 向云端发送键盘按键按下事件
|
|
628
|
+
* @param key KeyboardEvent.code 字段,具体内容参考 Chrome https://developer.mozilla.org/en-US/docs/Web/API/KeyboardEvent/code/code_values
|
|
629
|
+
* @param isRepeat KeyboardEvent.repeat 字段,参考https://developer.mozilla.org/en-US/docs/Web/API/KeyboardEvent/repeat
|
|
630
|
+
* @returns 是否发送成功,如果key参数传递错误可能发送失败
|
|
631
|
+
*/
|
|
537
632
|
keyDown(key: string, isRepeat: boolean): void;
|
|
633
|
+
/**
|
|
634
|
+
* 向云端发送键盘按键抬起事件
|
|
635
|
+
* @param key KeyboardEvent.code 字段,具体内容参考 Chrome https://developer.mozilla.org/en-US/docs/Web/API/KeyboardEvent/code/code_values
|
|
636
|
+
* @returns 是否发送成功,如果key参数传递错误可能发送失败
|
|
637
|
+
*/
|
|
538
638
|
keyUp(key: string): void;
|
|
639
|
+
/**
|
|
640
|
+
* 向云端发送手柄按钮按下事件
|
|
641
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
642
|
+
* @param userIndex 手柄的索引
|
|
643
|
+
* @param button 按鍵
|
|
644
|
+
* @param isRepeat 是否重复按下
|
|
645
|
+
* @returns
|
|
646
|
+
*/
|
|
539
647
|
gamepadButtonDown(userIndex: number, button: number, isRepeat: boolean): void;
|
|
648
|
+
/**
|
|
649
|
+
* 向云端发送手柄按钮抬起事件
|
|
650
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
651
|
+
* @param userIndex 手柄的索引
|
|
652
|
+
* @param button 按鍵
|
|
653
|
+
* @returns
|
|
654
|
+
*/
|
|
540
655
|
gamepadButtonUp(userIndex: number, button: number): void;
|
|
656
|
+
/**
|
|
657
|
+
* 向云端发送手柄按trigger键事件
|
|
658
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
659
|
+
* @param userIndex 手柄的索引
|
|
660
|
+
* @param isleft 是否是左trigger
|
|
661
|
+
* @param value trigger的值
|
|
662
|
+
* @returns
|
|
663
|
+
*/
|
|
541
664
|
gamepadTrigger(userIndex: number, isleft: boolean, value: number): void;
|
|
665
|
+
/**
|
|
666
|
+
* 向云端发送手柄按摇杆的值,即 axes 值
|
|
667
|
+
* 參考 https://developer.mozilla.org/zh-CN/docs/Web/API/Gamepad_API/Using_the_Gamepad_API
|
|
668
|
+
* @param userIndex 手柄的索引
|
|
669
|
+
* @param thumblx 手柄摇杆的x轴坐标
|
|
670
|
+
* @param thumbly 手柄摇杆的y轴坐标
|
|
671
|
+
* @param thumbrx 手柄摇杆的x轴相对坐标
|
|
672
|
+
* @param thumbry 手柄摇杆的y轴相对坐标
|
|
673
|
+
* @returns
|
|
674
|
+
*/
|
|
542
675
|
joystick(userIndex: number, thumblx: number, thumbly: number, thumbrx: number, thumbry: number): void;
|
|
676
|
+
/**
|
|
677
|
+
* 向云端发送触摸按下事件
|
|
678
|
+
* 坐标位置与 mouseMove 相同,相对与云端的鼠标移动位置
|
|
679
|
+
* @param id 手指的id
|
|
680
|
+
* @param x 相对云端的x轴坐标
|
|
681
|
+
* @param y 相对云端的y轴坐标
|
|
682
|
+
* @returns
|
|
683
|
+
*/
|
|
543
684
|
touchDown(id: number, x: number, y: number): void;
|
|
685
|
+
/**
|
|
686
|
+
* 向云端发送触摸移动事件
|
|
687
|
+
* 坐标位置与 mouseMove 相同,相对与云端的鼠标移动位置
|
|
688
|
+
* @param id 手指的id
|
|
689
|
+
* @param x 相对云端的x轴坐标
|
|
690
|
+
* @param y 相对云端的y轴坐标
|
|
691
|
+
* @returns
|
|
692
|
+
*/
|
|
544
693
|
touchMove(id: number, x: number, y: number): void;
|
|
694
|
+
/**
|
|
695
|
+
* 向云端发送触摸抬起事件
|
|
696
|
+
* 坐标位置与 mouseMove 相同,相对与云端的鼠标移动位置
|
|
697
|
+
* @param id 手指的id
|
|
698
|
+
* @param x 相对云端的x轴坐标
|
|
699
|
+
* @param y 相对云端的y轴坐标
|
|
700
|
+
* @returns
|
|
701
|
+
*/
|
|
545
702
|
touchUp(id: number, x: number, y: number): void;
|
|
703
|
+
/**
|
|
704
|
+
* 字符串转换为输入的鼠标按键值
|
|
705
|
+
* @param button 'left' | 'mid' | 'right'
|
|
706
|
+
* @returns LEFT = 0,RIGHT = 1,MIDDLE = 2
|
|
707
|
+
*/
|
|
546
708
|
getMouseButtonType(button: 'left' | 'mid' | 'right'): CloudLark.MouseKey;
|
|
547
709
|
$emit(type: LarkEventType, data?: any, message?: string): void;
|
|
548
710
|
$emitError(message?: string, code?: number): void;
|
|
@@ -18,7 +18,6 @@ export default class Operation extends EventBase<OPREATION_EVENT_TYPE, Operation
|
|
|
18
18
|
private keyboardHandler;
|
|
19
19
|
private mouseHandler;
|
|
20
20
|
private gamepadHandler;
|
|
21
|
-
private useTouch;
|
|
22
21
|
private touchHandler;
|
|
23
22
|
private _startListen;
|
|
24
23
|
set enableParse(enable: boolean);
|